AI ואתיקה: המדריך השלם ליישום אחראי ושקוף במגזר הציבורי בישראל

AI ואתיקה: המדריך השלם ליישום אחראי ושקוף במגזר הציבורי בישראל

כיצד למנוע הטיות אלגוריתמיות ולהבטיח אמון ציבורי בעידן הבינה המלאכותית?

המעבר לעידן הבינה המלאכותית (AI) מציב אתגרים אתיים ורגולטוריים מורכבים, במיוחד במגזר הציבורי בישראל¹. שאלות בנוגע להטיות אלגוריתמיות, אבטחת מידע ופרטיות במערכות ממשלתיות מעסיקות את מקבלי ההחלטות ואת הציבור כאחד. מאמר זה מציג גישה פרקטית ומבוססת עקרונות ליישום אחראי של AI, בהתבסס על מודלים בינלאומיים כמו חוק ה-AI האירופי ומסגרת ניהול הסיכונים של NIST.

המכון הישראלי לבינה מלאכותית (IIAI), בהובלת צוות מחקר והנחייה מוביל², מאמין כי יצירת אמון ציבורי, באמצעות שקיפות, הוגנות ופיקוח אנושי, היא המפתח להטמעה מוצלחת. המאמר מציג את הכלים והמיומנויות שהמכון מציע כדי להפוך את האתגרים הללו להזדמנויות, במטרה לקדם את ישראל למעצמת טכנולוגיה מבוססת בינה מלאכותית³.השימוש בבינה מלאכותית על ידי ממשלות וגופים ציבוריים ברחבי העולם גובר בקצב מהיר.

על פי דוח של EY, כ-96% מהממשלות מבינות את הפוטנציאל העצום של AI, אך רק 26% מהן הטמיעו אותה באופן חלקי או מלא בארגונים שלהן. פער זה מדגיש את האתגרים הייחודיים הקיימים במגזר הציבורי, ובמיוחד את הצורך הדחוף במסגרות אתיות ורגולטוריות. בישראל, מגמה זו ניכרת אף היא. הגישה הישראלית, כפי שהיא מוגדרת במסמכי מדיניות רשמיים, שואפת "לקדם שימוש נרחב והוגן ביישומי AI בסקטור הציבורי והפרטי". לשם כך, יש צורך בגיבוש עקרונות ברורים ובניהול סיכונים מושכל. המכון הישראלי לבינה מלאכותית (IIAI), אשר פועל מזה למעלה משנתיים, ליווה בהצלחה אלפי משתתפים, מאות בתי עסק ורשויות מקומיות, ואת רוב משרדי המגזר הציבורי בישראל⁴.

הכללים החדשים: עקרונות מנחים ליישום AI אחראי

כדי להבטיח שהטמעת AI במגזר הציבורי תהיה לא רק יעילה אלא גם בטוחה, הוגנת ואתית, יש לאמץ גישה מובנית המבוססת על עקרונות מוכרים. הגישה של ישראל, כפי שהוגדרה על ידי הממשלה, מיושרת עם המלצות ה-OECD ושמה דגש על "חדשנות אחראית". עקרונות אלו מהווים את הבסיס למודל ההכשרה והליווי של IIAI.

1. הגישה מבוססת-הסיכון (Risk-Based Approach) של חוק ה-AI האירופיאחת התובנות המרכזיות בתחום היא שאין להתייחס לכל מערכת AI באותה צורה. חוק ה-AI האירופי, שנחשב לאחד המודלים הרגולטוריים המתקדמים בעולם, מחלק את מערכות ה-AI לארבע רמות סיכון:

• סיכון בלתי קביל (Unacceptable Risk): מערכות האוסרות לחלוטין. אלו מערכות המהוות איום ברור על בטיחותם וזכויותיהם של אנשים, כמו "ניקוד חברתי" (Social Scoring) או זיהוי ביומטרי בזמן אמת במרחב הציבורי למטרות אכיפת חוק.
• סיכון גבוה (High Risk): מערכות הדורשות פיקוח מחמיר. אלו מערכות המשפיעות על בטיחותם או זכויותיהם של אנשים, כמו מערכות המשמשות בתחומי בריאות, אכיפת חוק או חינוך.
• סיכון מוגבל (Limited Risk): מערכות הדורשות שקיפות. מדובר במערכות כמו צ'אט-בוטים או תוכן שנוצר על ידי AI, המחייבות ליידע את המשתמש בכך שהם מקיימים אינטראקציה עם AI.
• סיכון מינימלי (Minimal Risk): רוב מערכות ה-AI הקיימות כיום בשוק. מערכות אלו אינן כפופות לרגולציה מחמירה.

גישה זו מאפשרת לממשלות ולרגולטורים להתמקד בסיכונים האמיתיים, מבלי לחנוק חדשנות. המכון הישראלי לבינה מלאכותית מכשיר את מנהלי המגזר הציבורי לזהות את רמת הסיכון של מערכות ה-AI שהם מטמיעים ולפעול בהתאם.

2. מניעת הטיות אלגוריתמיות – מה הסיכון האמיתי?

הטיה אלגוריתמית מתרחשת כאשר מערכת AI מייצרת תוצאות לא הוגנות או מפלות באופן שיטתי. הטיות אלו אינן תוצאה של כוונת זדון, אלא של שימוש בנתונים היסטוריים מוטים, או בנתונים שאינם מייצגים את כלל האוכלוסייה. דוגמאות בולטות מהעולם כוללות:

• אכיפת חוק: שימוש ב"חיזוי משטרתי" במטרה לנבא היכן יתרחשו פשעים. אם מערכת כזו מתבססת על נתונים היסטוריים בהם הושקעו יותר משאבי משטרה באזורים מסוימים, היא עלולה להמליץ על הגברת הפעילות באותם אזורים, ובכך להנציח את ההטיה.
• גיוס עובדים: אלגוריתמים לגיוס עובדים שלמדו מנתונים היסטוריים הראו נטייה להפלות נשים או קבוצות מיעוטים, ובכך החמיצו מועמדים ראויים והנציחו פערים חברתיים.

במכון הישראלי לבינה מלאכותית, אנו מכשירים את מנהלי המגזר הציבורי לזהות סיכונים אלה, ולבצע בקרות מתאימות. הכלים שלנו נועדו להבטיח הוגנות ושוויון, ולמנוע הטיות שעלולות לפגוע באזרח.

3. שקיפות והסברתיות (Explainability) – האמון הציבורי במבחן

על פי דוחות של KPMG, בעוד ש-85% מהאנשים מאמינים ש-AI תביא יתרונות, רק כמחציתם מאמינים שהיתרונות עולים על הסיכונים. החשש העיקרי הוא מפני חוסר שקיפות של מערכות ה-AI. כדי לבנות אמון ציבורי, על מערכות AI במגזר הציבורי להיות "הסברתיות". כלומר, חייבת להיות היכולת להסביר את ההיגיון שמאחורי כל החלטה שקיבלה המערכת.

• דוגמה: אם מערכת AI של הביטוח הלאומי מסייעת בהערכת זכאות לקצבאות, יש לוודא שהפעלת המערכת והקריטריונים עליהם היא מתבססת שקופים, ושיש יכולת להסביר לאזרח מדוע התקבלה החלטה מסוימת. הממשלה בישראל כבר החלה ליישם פרויקטים בתחום זה, לדוגמה פרויקט של הביטוח הלאומי לזירוז תהליכי תביעות רפואיות באמצעות AI.

4. בטיחות ואבטחת מידע – הגנה על האזרח

אחד הסיכונים המרכזיים בשימוש ב-AI הוא אבטחת מידע ופרטיות. המכון הישראלי לבינה מלאכותית, שהנו מומחה בתחום, מדגיש כי יש ליישם את עקרונות ה"פרטיות בתכנון" (Privacy by Design). דוחות רשמיים של ממשלת ישראל מציינים כי יש לשמור על הגנת הפרטיות, שלמות המידע והאבטחה של מערכות הממשלה.

• דוגמה: משרד המשפטים בישראל פועל לשילוב AI במערכות שלו כדי לזהות פעילות חשודה בעמותות, ובכך להפחית את הבירוקרטיה על עמותות תקינות. יישום מוצלח של פרויקט כזה דורש עמידה בתקנים מחמירים של אבטחת מידע וניהול סיכונים.

5. אחריותיות ופיקוח אנושי

היכולת להטיל אחריות על החלטות שקיבלו מערכות AI היא מרכיב חיוני לביטחון ולאמון הציבור. חוק ה-AI האירופי מחייב פיקוח אנושי על מערכות בעלות סיכון גבוה, כדי למנוע טעויות ולספק מענה אנושי במקרים מורכבים.

• יישום: צוותי המכון הישראלי לבינה מלאכותית מכשירים את מנהלי המגזר הציבורי להבין את גבולות היכולת של המערכות, ולוודא שתמיד קיימת "לולאת פיקוח אנושית" שתאשר ותבקר את החלטותיהן.

מודל IIAI לליווי והכשרה: יצירת תשתית אתית חזקה - הצטרפו להכשרות בינה מלאכותית

הטמעת AI במגזר הציבורי בישראל היא משימה לאומית. היא דורשת מומחיות טכנולוגית, הבנה רגולטורית עמוקה וגישה אתית ללא פשרות. המכון הישראלי לבינה מלאכותית פועל בשיתוף פעולה עם רוב משרדי המגזר הציבורי בישראל, מזה למעלה משנתיים, ומספק הכשרות AI מותאמות וליווי צמוד.מודל העבודה שלנו מתבסס על ניסיון מעשי עם אלפי משתתפים ומאות ארגונים⁵. אנו מסייעים לארגונים אלו להטמיע את הטכנולוגיה באופן אחראי, יעיל ואתי, תוך שימת דגש על יצירת תשתית ארגונית חזקה שתתמודד עם אתגרי העתיד. אנחנו בונים יכולות - אנחנו לא רק מעבירים קורסים.

סיכום: איך נוכל לקדם בינה מלאכותית אתית במגזר הציבורי?

המעבר לשימוש נרחב ב-AI במגזר הציבורי יכול לשפר את חיי האזרחים, לייעל שירותים ממשלתיים ולהפחית בירוקרטיה. יחד עם זאת, הוא מחייב גישה זהירה, מוסרית ומקצועית. שקיפות, אחריותיות והוגנות אינם מילים ריקות, אלא תנאים הכרחיים ליצירת אמון ציבורי, שהוא המפתח להצלחת המהפכה הטכנולוגית.אם הארגון הציבורי שלך מעוניין להצטרף למהפכה באופן אחראי ומוסרי, צוותי המחקר וההנחיה של המכון הישראלי לבינה מלאכותית מוכנים לסייע. אנו יכולים לספק את הכלים, הידע והניסיון הדרושים כדי להטמיע AI בצורה בטוחה, יעילה, ושקופה.התקשרו למכון הישראלי לבינה מלאכותית בטלפון: 072-2500344 או צרו קשר דרך האתר www.iiai.co.il ונחזור אליכם עם תוכנית פעולה מותאמת אישית.

ביבליוגרפיה:

• Aggarwal, P., Kalyan, A., Murahari, V., & Narasimhan, K. (2024). GEO: Generative Engine Optimization. arXiv.
• הצוות הבין-משרדי לבינה מלאכותית בסקטור הפיננסי. (2024). דוח ביניים להערות הציבור.
• כהנא, ע., & שוורץ אלטשולר, ת. (2023). אדם, מכונה, מדינה: לקראת אסדרה של בינה מלאכותית. המכון הישראלי לדמוקרטיה.
• דבאוי, מ., אפשטיין, ג., בנטל, ב., וייס, א., & וינרב, א. (2024). בינה מלאכותית ושוק העבודה הישראלי. נייר מדיניות, מרכז טאוב.
• ענתבי, ל. (2019). בינה מלאכותית וביטחון לאומי בישראל. מזכר 205, המכון למחקרי ביטחון לאומי (INSS).
• ליבוביץ, ל. (2024). בינה מלאכותית בחינוך: פיתוח מקצועי באמצעות חשיבה עיצובית. משרד החינוך.
• ILO Working Paper. (2023). Generative AI and jobs: A global analysis of potential effects on job quantity and quality.
• OECD.AI. (2024). OECD Artificial Intelligence Papers.
• NIST. (2024). AI Risk Management Framework (AI RMF).
• McKinsey & Company. (2023). The economic potential of generative AI: The next productivity frontier.
• The White House. (2022). National Strategy for Artificial Intelligence.
• UN OHCHR. (2025). Procurement and deployment of artificial intelligence must be aligned with human rights: UN experts.
• IMF. (2025). The Global Impact of AI: Mind the Gap.
• Brookings Institution. (2025). Mapping the AI economy: Which regions are ready for the next technology leap.
• IIAI. (2025). מסמך ליבה אסטרטגי.
• European Parliament. (2025). EU AI Act: first regulation on artificial intelligence. [https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence]
• EY. (2025). How data analytics and AI in government can drive greater public value. [https://www.ey.com/en_gl/insights/government-public-sector/how-data-analytics-and-ai-in-government-can-drive-greater-public-value]
• IBM. (2024). What Is Algorithmic Bias? [https://www.ibm.com/think/topics/algorithmic-bias]
• KPMG International. (2025). Trust in artificial intelligence. [https://kpmg.com/xx/en/our-insights/ai-and-technology/trust-in-artificial-intelligence.html]
• Ministry of Innovation, Science and Technology. (2023). Israel's Policy on Artificial Intelligence Regulation and Ethics. [https://www.gov.il/en/pages/ai_2023]
• The Greenlining Institute. (2021). Algorithmic Bias. [https://greenlining.org/wp-content/uploads/2021/04/Greenlining-Institute-Algorithmic-Bias-Explained-Report-Feb-2021.pdf]