חשיבה ביקורתית עם AI: ללמוד ממשוב ולבדוק את ההסבר

תשובה שעבדה אתמול יכולה להטעות היום

נבחן דוגמה היפותטית: צוות נעזר ב־AI לתעדוף פניות. בשבוע הראשון, הכלל המוצע מקצר טיפול בפניות פשוטות. בהמשך מגיעות פניות מורכבות יותר, אך התהליך ממשיך לתת עדיפות לאותם מאפיינים. הצוות רואה שהיו הצלחות וממשיך להסתמך עליו. השאלה החשובה היא מה הסביר את ההצלחה: הכלל עצמו, סוג המקרים או תנאי העבודה באותו שבוע.

אפשר להפריד בין שלוש שאלות: מה הייתה התוצאה, מה ציפינו שיקרה, ואילו תנאים נדרשו כדי שהציפייה תהיה סבירה. ההפרדה מונעת משתי טעויות נפוצות להסתתר זו מאחורי זו. אין צורך להחליף שיטה בגלל כל כישלון נקודתי, אך גם אין הצדקה להגן עליה בלי סוף רק משום שהצליחה בעבר.

מה המחקר החדש בדק בפועל?

מחקר ב־Nature Communications, שפורסם ב־24 באוקטובר 2026, בחן למידה במשימת החלטה דו־שלבית בשתי דגימות של 452 ו־226 משתתפים. נמצאה שונות בדרכי השילוב בין למידה מתוצאות קודמות לבין שימוש במודל של קשרי הפעולות. גם סוג המידע שעליו נשענה החלפת האסטרטגיה השתנה בין אנשים. אין מדובר במבחן אישיות המחלק אנשים ל׳אינטואיטיביים׳ ול׳רציונליים׳.

המחקר לא בחן עבודה עם כלי AI, הדרכה ארגונית או את שיטת הבדיקה המוצעת כאן. החיבור ל־AI הוא פרשנות יישומית: כאשר מסבירים החלטה, כדאי לבחון גם תוצאות מצטברות וגם את ההנחות המחברות פעולה לתוצאה. התמקדות באחד מהם בלבד עלולה להשאיר מידע חשוב מחוץ לדיון.

להבחין בין משוב על תוצאה לבין בדיקת מנגנון

משוב על תוצאה עונה לשאלה אם הפעולה השיגה את היעד שהוגדר. בדיקת מנגנון שואלת מדוע ציפינו שתשיג אותו. לדוגמה, הודעה עשויה לקבל יותר תגובות בגלל ניסוח ברור יותר, אך גם משום שנשלחה לקבוצה אחרת או בזמן נוח יותר. הנתון חשוב; ההסבר דורש ראיות נוספות.

כאשר AI מציע הסבר, אפשר לבקש ממנו לציין איזה נתון יתמוך בו ואיזה נתון יערער אותו. זו דרך לארגן את הבדיקה, ולא ראיה שהמערכת מתארת באופן מהימן את המנגנונים הפנימיים שלה. התיעוד הדרוש הוא חיצוני: מקורות, תנאים, תחזית ותוצאה שאפשר לבחון באופן עצמאי.

• תוצאה: מה השתנה במדד שהוגדר?
• הסבר: איזה קשר סיבתי מוצע?
• בדיקה: מה עשוי להפריך את ההסבר?

איך נראית החלטה שניתן לעדכן?

החלטה שניתן לעדכן כוללת תנאי שימוש. במקום לקבוע ׳זהו סדר העדיפויות הנכון׳, אפשר לכתוב: ׳זהו סדר העדיפויות המוצע לפניות מסוג זה, לפי המידע הזמין כרגע׳. מוסיפים את המידע החסר ואת השינוי שיחייב בחינה חוזרת. כך נוצר בסיס משותף לדיון גם כאשר אנשים שונים נוטים לשים לב לסימנים שונים.

לא כל שינוי קטן מחייב לפתוח את ההחלטה מחדש. אפשר להגדיר מראש חלון בדיקה ומדד מהותי, כגון עלייה במקרים שחוזרים לטיפול. כאשר מדובר בהחלטה שקשה לבטל, נדרשת בדיקה מחמירה יותר לפני הפעולה. התדירות והעומק צריכים להתאים למשימה ולא לנפח הטקסט שהמערכת הפיקה.

למה לא להסתפק בציון ביטחון?

ציון ביטחון יכול לעזור לתעד עמדה, אך אינו מחליף בדיקה. גם אדם וגם מערכת יכולים להציג תשובה בנחרצות ללא תימוכין מספקים. חשוב יותר לדעת על מה נשענת ההמלצה, מה טרם נבדק ומה המשמעות של טעות. ניסוח מהוסס אינו מבטיח זהירות מקצועית, כשם שניסוח חד אינו מבטיח דיוק.

אפשר להשוות בין הציפייה לתוצאה בכמה מקרים דומים, תוך שמירה על ההבדלים ביניהם. אם הבדיקה קטנה או לא מבוקרת, יש לתאר אותה כלמידה מקומית. אין להפוך אותה להוכחה שהכלי טוב מכל חלופה, או שהשיפור שנצפה נגרם דווקא בזכות AI.

• בדיקת טענות ומקורות בתשובות AI

שפה משותפת לדיון בהחלטה

בצוות, פער בין אנשים אינו בהכרח התנגדות לשינוי. אחד מתייחס לתוצאות האחרונות, אחר רואה כלל שעבד לאורך זמן, ושלישי מטיל ספק בדרך שבה הבעיה הוגדרה. אפשר לשאול איזה סוג ראיה חסר לכל אחד, במקום למהר להסביר את הפער באמצעות תכונת אופי. כך הדיון עובר מהגנה על עמדה להשוואה בין הנחות.

מועיל לשמור את ההמלצה המקורית לצד המידע שהוביל לשינויה. תיעוד קצר מסייע להבין מתי העדכון היה מוצדק, ומתי התהליך פשוט הגיב לרעש. האחריות המקצועית נשארת אצל בעל ההחלטה, גם כשהמערכת סייעה לארגן את השיחה ואת הנתונים.

מידע אמין על מה: מקור, תהליך או תוצאה?

כאשר אומרים שהמלצה אמינה, כדאי לברר למה מתכוונים. מקור יכול להיות רשמי ועדכני אך לא להתאים לשאלה שנשאלה. דרך ניתוח יכולה להיות עקבית אך להשתמש במידע חלקי. תוצאה יכולה להיראות מוצלחת בלי שהבדיקה הפרידה בינה לבין גורמים אחרים. אלה שכבות שונות של הבירור, וחשוב להציג אותן בנפרד כדי שאפשר יהיה להבין מה כבר נבדק ומה נשאר כהנחה. רשימת קישורים לבדה אינה מראה איזה מהם תומך בכל חלק של ההמלצה.

בבדיקת מקור אפשר להתחיל מהכותרת, תאריך הפרסום והטענה המדויקת הרלוונטית. לאחר מכן בוחנים את אוכלוסיית המחקר או את תנאי התיעוד: מה נכלל ומה לא. אם המקור מדבר על משימת מעבדה, אין לנסח את ההמלצה כאילו נבדקה בעבודה מסחרית. אפשר להשתמש ברעיון כדי לתכנן התנסות, כל עוד מסמנים את המעבר מממצא לפרשנות ושומרים על אפשרות להגיע למסקנה אחרת לאחר בדיקה.

מה עושים כשנתון חדש סותר את ההסבר?

סתירה אינה בהכרח סימן שצריך להחליף מיד את כל התהליך. קודם בודקים אם מדובר בטעות ברישום, במקרה חריג או בשינוי בתנאים. למשל, עלייה בזמן טיפול עשויה לנבוע ממקרים מורכבים יותר, מדרישה חדשה או מקושי שנוצר בתהליך. מערכת AI יכולה לעזור לנסח הסברים חלופיים, אך ההסברים שהיא מציעה אינם נתונים. יש לחפש מידע שמבחין ביניהם, במקום לבחור את הסיפור שנשמע המשכנע ביותר או מתאים להעדפה הקודמת.

דרך מועילה היא לתעד שני הסברים מתחרים ולציין מה היינו מצפים לראות אילו כל אחד מהם נכון. אם אין מידע שמאפשר להכריע, התוצאה המקצועית היא אי־ודאות מתועדת. אפשר להגביל את השימוש להחלטות הפיכות או לאסוף מידע נוסף. אין צורך להציג כל פער ככשל של המשתמש או של הכלי; לעיתים הבדיקה עצמה הייתה צרה מכדי לענות על השאלה שניסו להכריע בה.

להפריד בין שינוי במשימה לשינוי בכלי

כדי ללמוד מתוצאה צריך לדעת מה השתנה בין המקרים. אם הוחלפו ההנחיה, חומר המקור ואופן המדידה באותו זמן, יהיה קשה לייחס שיפור למרכיב מסוים. תיעוד בסיסי יכול לכלול תאריך, סוג משימה, גרסת הנחיה, מקורות וקריטריונים. אין צורך לשמור פרטים אישיים שאינם נדרשים לבדיקה. המטרה היא לאפשר שחזור סביר של התנאים, ולהימנע מהשוואה בין תוצרים שנוצרו למעשה למשימות שונות תחת אותה כותרת כללית.

אפשר לשמור מספר מקרים מייצגים כחומר בדיקה קבוע, לצד מקרים חדשים מהעבודה שבהם מותר להשתמש. המקרים הקבועים מסייעים לזהות אם שינוי פגע ביכולת שהייתה קיימת; החדשים מסייעים לראות מה חסר בתמונה הקודמת. אף אחד מהשניים אינו מכסה לבדו את כל המציאות. חשוב לתעד מקרים שלא הצליחו, ולא רק תוצרים נוחים להצגה, משום שדווקא בהם אפשר לעיתים לראות את גבולות השיטה ואת התנאים שבהם היא דורשת שינוי.

למה ׳נכון במקרה הזה׳ שונה מ׳כלל טוב׳?

תוצאה אחת היא נקודת מידע. כלל פעולה הוא טענה רחבה יותר לגבי מצבים עתידיים. המעבר ביניהם דורש בירור של דמיון ושוני בין המצבים. למשל, דרך שסייעה להשוות שלוש חלופות עם נתונים מלאים אינה בהכרח מתאימה למצב שבו הנתונים חסרים או הקריטריונים נמצאים במחלוקת. כדאי להגדיר מה נשאר קבוע ומה השתנה לפני שמעתיקים את הכלל. ככל שההחלטה רחבה או בעלת השלכות גדולות יותר, חשוב יותר לבדוק את ההרחבה במפורש.

גם כשמצטברות הצלחות, חשוב לבדוק מה המדד אינו רואה. יותר תגובות להודעה אינן מוכיחות שההודעה הובנה; פחות זמן עבודה אינו מוכיח שאיכות התוצר נשמרה. אפשר להחזיק מדד תוצאה עיקרי לצד תנאי איכות ברור, ולהציג את שניהם בסיכום. כשיש ביניהם מתח, נדרשת הכרעה מקצועית. אין סיבה להסתיר את המתח בתוך ציון כולל שנותן תחושת דיוק אך מקשה להבין מה באמת השתפר ומה דורש תשומת לב.

איך מסכמים בדיקה כך שאחרים יוכלו להמשיך ממנה?

סיכום שימושי מתחיל בשאלת ההחלטה ובמקרים שנבדקו, ממשיך בממצא שנצפה ומסתיים במה שלא ניתן לדעת. כדאי לציין האם הנתונים נלקחו ממשימה אמיתית, ממקרה מדומה או מבדיקה מצומצמת. כך הקורא הבא יכול להעריך את משקל המסקנה בלי להשתתף בשיחה המקורית. ניסוח כמו ׳במקרים שבדקנו נמצאה תועלת בניסוח, אך לא נבדקה נכונות המקורות׳ מדויק יותר מהצהרה כללית שהמערכת מועילה ומוכן יותר לשימוש אחראי בהמשך.

לבסוף מציינים החלטה אחת: להמשיך בתנאים מוגדרים, לשנות רכיב, לאסוף מידע או לעצור שימוש מסוים. לכל החלטה כדאי לחבר בעל אחריות ומועד בחינה. זה אינו מחייב מסמך ארוך. כמה שורות ברורות מאפשרות לשמור על רצף למידה, להימנע מחזרה על אותה טעות ולהבין מדוע בחירה שנראתה סבירה בזמן אחד השתנתה בהמשך. התיעוד משרת את שיקול הדעת של האנשים המשתמשים במערכת, ואינו מחליף אותו. לפני שמרחיבים שימוש, כדאי לוודא שגם מי שלא השתתף בבדיקה מבין את תנאי ההמלצה, יודע מה לבדוק ויכול לזהות מתי המקרה החדש חורג מהמצבים שכבר נבחנו. הסכמה על גבולות אלה מאפשרת להמשיך ללמוד מבלי להפוך בדיקה מצומצמת להבטחה רחבה.

איך לומדים את היכולת במסגרת המכון?

בסדנאות המכון הישראלי לבינה מלאכותית אפשר ללמוד לבדוק המלצה, לנסח קריטריונים ולהשוות בין הסבר לתוצאה באמצעות מקרים מותאמים. ההדרכה משלבת עבודה עם הכלים המאושרים ודיון בבחירות שנעשו, כך שהמשתתפים מפתחים דרך עבודה שאפשר להמשיך ליישם. התוכן וההיקף מותאמים לרמת הניסיון ולמשימות.

להעמקה בהיבטים האנושיים של קבלת החלטות אפשר להמשיך לתכנים של משכוכית; ליישום בשיחות מכירה ושירות, לתכנים של iLEAD. אלה אתרים קשורים בקבוצת הפעילות של ד״ר יניב שנהב. הקישורים נבחרים לפי שאלת הקורא, בעוד המדריך הנוכחי מתמקד בביקורת על המלצות הנוצרות בעזרת AI.

• סדנת AI אחראי וחשיבה ביקורתית
• סדנת AI למנהלים
• משכוכית: איכות התהליך בקבלת החלטה
• iLEAD: טענות מכירה מבוססות ראיות