תחקיר רויטרס שפורסם ב־31 ביולי 2026 בחן יותר משמונים מאמרים אקדמיים ופטנטים מסין ומצא שחוקרים הקשורים למערכת הביטחון הסינית השתמשו בפלטים של מודלים אמריקאיים, ובהם מודלים של OpenAI ושל Anthropic, כדי לאמן או לשפר מערכות מקומיות. הממצא אינו אומר שהחברות האמריקאיות שיתפו פעולה עם הצבא הסיני, וגם אינו מוכיח שהמודלים הסופיים משחזרים את מלוא היכולות של Claude או GPT. הוא כן ממחיש כיצד זיקוק מודלים, נתונים סינתטיים וגישה עקיפה לממשקי מודלים משנים את האופן שבו ידע ויכולות AI נעים בין גבולות, ארגונים ומערכות. עבור מנהלים, אנשי אבטחת מידע ומובילי AI, הסיפור חשוב לא רק בגלל ההקשר הגיאו־פוליטי. הוא מדגים מדוע מדיניות שימוש, ניטור ספקים, סיווג מידע ובדיקת שרשרת אספקה צריכים להיות חלק מכל הטמעת בינה מלאכותית.
מה נמצא בתחקיר, ומה עדיין אינו ידוע
לפי תחקיר רויטרס, חוקרים עברו על יותר משמונים פרסומים ופטנטים שמקורם בגופים אקדמיים, תעשייתיים וצבאיים בסין. בחלק מן העבודות הופיעו תיאורים של שימוש בפלטים ממודלים מתקדמים מארצות הברית כמקור ליצירת דוגמאות אימון, לתיקוף תוצאות או לבניית מודלים מקומיים קטנים יותר. היישומים שתוארו בפרסומים נגעו בין השאר לניתוח מידע, מערכות ימיות, ניווט, סייבר וניטור. חשוב לקרוא את הממצא בזהירות: פרסום אקדמי עשוי לתאר ניסוי מוגבל, אב־טיפוס או שאיפה מחקרית, ולא בהכרח מערכת מבצעית שכבר הופעלה בשטח.
החיבור בין מחקר אקדמי לבין מערכת הביטחון הסינית אינו תמיד שקוף לקורא שאינו מכיר את מבנה האוניברסיטאות ומעבדות המחקר במדינה. חלק מהמוסדות עובדים בפרויקטים אזרחיים וצבאיים במקביל, וחלק מהחוקרים מפרסמים בשמות של מעבדות או מרכזים בעלי זיקה עקיפה. לכן התחקיר הסתמך על צירוף ראיות: שיוך מוסדי, תחום היישום, מימון, פטנטים וניסוח מטרות המחקר. זו שיטה מקובלת במחקר קוד פתוח, אך היא מחייבת הבחנה בין ראיה ישירה, אינדיקציה והסקה. בדיווח אחראי אין להפוך כל זיקה מוסדית להוכחה לשימוש מבצעי.
גם הביטוי שימוש ב־Claude או ב־GPT דורש דיוק. ברוב המקרים אין מדובר בהעתקת קוד המקור או במשיכת המשקלים הסודיים של המודל. מדובר ביצירת שאלות, תשובות, הסברים או תוויות באמצעות מודל מורה, ואז שימוש בפלטים אלה כדי ללמד מודל תלמיד. התוצאה יכולה להיות יעילה במשימה מסוימת, אך היא אינה בהכרח שוות ערך למודל המקורי. מודל קטן שאומן לסיווג מסמכים או לזיהוי דפוס מוגדר עשוי להצטיין באותה משימה ולגלות חולשה משמעותית מחוץ לה.
OpenAI ו־Anthropic אינן מאשרות שימוש בשירותיהן מתוך סין או שימושים המפרים את תנאי השירות שלהן, לפי התגובות שנמסרו לרויטרס. עם זאת, גישה יכולה להתבצע דרך מתווכים, חשבונות במדינות אחרות, ספקי ענן או מערכות צד שלישי. בדיוק בנקודה הזאת מתחדדת שאלת שרשרת האספקה: ספק מודל אינו רואה תמיד את זהות המשתמש הסופי, והארגון שקונה שירות AI אינו יודע תמיד אילו מודלים, מאגרים ותהליכי משנה נמצאים מאחורי הממשק שהוא מפעיל.
אין בתחקיר בסיס לקביעה שמודלים אמריקאיים קיבלו גישה למידע צבאי מסווג מסין. הוא גם אינו מוכיח שכל הפלטים נאספו בניגוד לתנאי השירות, משום שחלק מהמחקרים יכולים היו להשתמש בתוצאות שפורסמו, בחשבונות של צדדים שלישיים או בשירותים חוקיים במועד הניסוי. הממצא המרכזי מצומצם יותר אך משמעותי: יכולות של מודל סגור יכולות להשפיע על מערכות אחרות גם בלי העברה ישירה של המודל, ולכן בקרת הפצה המבוססת רק על חומרה או משקלים אינה מספיקה.
מנקודת מבט חדשותית, ראוי להפריד בין שלושה רבדים. הרובד הראשון הוא העובדה המתועדת של פרסומים ופטנטים שבהם מוזכרים מודלים מערביים או פלטים שלהם. הרובד השני הוא ניתוח מידת הזיקה של המחברים והמוסדות לגופי ביטחון. הרובד השלישי הוא הערכת ההשפעה האסטרטגית של המערכות שנבנו. ככל שעולים מרובד אחד לאחר גדלה אי־הוודאות. השיח הציבורי נוטה לדלג ישירות לכותרת על נשק מבוסס GPT, אבל הראיות הזמינות מצדיקות ניסוח מדויק יותר: שימוש מחקרי בפלטי מודלים לצורך פיתוח יכולות מקומיות ממוקדות.
- הבדיקה התבססה על יותר משמונים מאמרים ופטנטים, ולא על הודעה רשמית אחת.
- השימוש המתואר הוא בעיקר בפלטים ובנתונים סינתטיים, לא בהעתקת משקלי המודל.
- זיקה למערכת הביטחון אינה זהה בהכרח להפעלה מבצעית של כל אב־טיפוס.
כיצד זיקוק מודלים הופך פלטים ליכולת מקומית
זיקוק מודלים הוא משפחה של שיטות שבהן מודל גדול וחזק משמש מורה למודל קטן או ייעודי. המורה מייצר דוגמאות, הסתברויות, הסברים או מסלולי פתרון, והמודל התלמיד לומד לחקות את ההתנהגות הרלוונטית. השיטה מוכרת במחקר שנים רבות ומשמשת גם למטרות לגיטימיות: הפחתת עלויות, הרצת מודלים על מכשירי קצה, צמצום צריכת אנרגיה והנגשת יכולות בשפות או בתחומים שבהם אין מספיק נתונים. הוויכוח מתחיל כאשר הפלטים נאספים בהיקף גדול ממודל מסחרי בלי רשות, או כאשר מטרת השימוש סותרת את מגבלות הספק.
היתרון המרכזי של הזיקוק הוא מיקוד. ארגון אינו חייב לשחזר את כל הידע והגמישות של מודל כללי. אם הצורך הוא לנתח דיווחים, לסווג סוגי כלי שיט או להציע מסלול פעולה תחת קבוצה מוגדרת של תנאים, אפשר לבנות מערך דוגמאות צר יחסית ולאמן מודל קטן. מודל כזה עשוי לפעול מהר, בזול ובסביבה מנותקת מרשת. בהקשרים רגישים זהו יתרון תפעולי, משום שאין תלות רציפה בשירות ענן זר ואין צורך לשלוח כל שאילתה למודל המורה לאחר שלב האימון.
החיסרון הוא שהמודל התלמיד יורש לא רק יכולות אלא גם טעויות, הטיות ודפוסים לא יציבים. אם הדוגמאות שהופקו מן המורה אינן מייצגות את סביבת היעד, התלמיד עלול להציג ביטחון גבוה בתשובה שגויה. אם תהליך האימון מתמקד בתוצאות סופיות ואינו בודק את איכות ההסבר, מתקבלת מערכת שיודעת לחקות תשובה אך אינה מבינה את גבולותיה. בהקשר ביטחוני, רפואי, פיננסי או תשתיתי, פער כזה עלול להיות מסוכן יותר מאשר במערכת תוכן רגילה.
מחקר על מערכות ימיות חכמות שפורסם ב־Chinese Journal of Ship Research מציג את הכיוון הרחב שבו משולבות יכולות חישה, קבלת החלטות, מערכות בלתי מאוישות ותקשורת. הוא אינו הוכחה ישירה לשימוש ב־Claude או GPT, אבל הוא מקור מחקרי ראשוני להבנת סביבת היישום שבה מודלים ממוקדים עשויים לפעול. במקביל, מחקר פתוח על מאגר Zhousidun הראה כיצד ניתן להשתמש בנתונים פתוחים ובכלי ראייה ממוחשבת כדי להעריך ולשחזר יכולות הקשורות לזיהוי רכיבים בכלי שיט. שני המקורות ממחישים שזיקוק הוא חלק ממערכת רחבה יותר של נתונים, חיישנים ומודלים.
מגבלות יצוא על שבבים מתקדמים עשויות להגדיל את הכדאיות של מודלים קטנים ויעילים, אבל הן אינן הסיבה היחידה לזיקוק. גם ארגונים בעלי גישה מלאה לחומרה מבצעים זיקוק כדי להקטין זמן תגובה, לשלוט בנתונים ולהתאים מערכת למשימה. לכן לא נכון לתאר את השיטה כטריק סיני או כפרצה בלבד. זו טכנולוגיה כללית, והסיכון נובע משילוב של היקף, הרשאה, זהות המשתמש הסופי, רגישות היישום ויכולת הפיקוח על מה שקורה לאחר יצירת הפלטים.
מבחינת ספקי מודלים, ההגנה אינה יכולה להסתכם בחסימת כתובות IP. נדרשים זיהוי דפוסי שימוש חריגים, מגבלות קצב, איתור שאילתות שנועדו לייצר מערכי אימון, אימות לקוחות עסקיים ומעקב אחר מתווכים. מבחינת לקוחות, חשוב לדעת שהגנות הספק אינן מחליפות מדיניות פנימית. ארגון שמזין למודל חיצוני ידע רגיש, או שמאפשר לספק משנה לייצר נתונים סינתטיים ללא חוזה מתאים, עלול לאבד שליטה על המידע גם אם השימוש עצמו נראה שגרתי.
- מודל מורה מייצר דוגמאות; מודל תלמיד לומד משימה ממוקדת.
- מודל מזוקק יכול לפעול מקומית ובעלות נמוכה יותר.
- הוא עלול לרשת טעויות והטיות, ולכן דורש בדיקות עצמאיות.
המשמעות לאבטחה, ממשל AI ושרשרת האספקה
הלקח הראשון לארגונים הוא שמידע יכול לצאת דרך פלטים ולא רק דרך קבצים. צוות עשוי לחשוב שהוא משתמש במודל כדי לנסח טקסט, לסכם מסמך או ליצור דוגמאות, אך בפועל הוא בונה מאגר אימון שניתן להעביר לספק אחר או למערכת מקומית. לכן סיווג מידע צריך להתייחס גם לפלט שנוצר: האם הפלט מכיל היגיון עסקי, תרחישים פנימיים, שיטות עבודה או תוויות שמגלמות ידע ייחודי? לעיתים הפלט הסינתטי רגיש כמעט כמו חומר המקור, גם אם אין בו ציטוט ישיר של מסמך סודי.
הלקח השני הוא צורך בזיהוי המשתמש הסופי. חוזה עם פלטפורמת AI צריך להבהיר מי רשאי לגשת, באילו מדינות, דרך אילו חברות בנות ובאילו שימושים. כאשר השירות מוטמע בתוך מערכת אחרת, יש לבדוק אם המערכת שולחת את הבקשות לספק נוסף, שומרת את הפלטים לצורכי אימון או מאפשרת הורדה מרוכזת. בדיקת ספק צריכה לכלול לא רק אבטחת מידע מסורתית אלא גם מדיניות אימון, מגבלות שימוש, תיעוד מודלים, מיקום עיבוד ושינויים בשרשרת המודלים לאורך זמן.
הלקח השלישי נוגע להערכת סיכון של מודלים קטנים. ארגון עלול להניח שמודל מקומי בטוח משום שהנתונים אינם עוזבים את הרשת, אך מודל כזה יכול להכיל התנהגות לא רצויה שהוטמעה במהלך האימון. יש לבדוק את מקור הדוגמאות, הרשאות השימוש בהן, איכות הסינון, ביצועים בתרחישי קצה וניסיונות הטעיה. בנוסף, יש להפריד בין מבחן דיוק ממוצע לבין בדיקת בטיחות. מערכת שמצליחה ברוב הדוגמאות עדיין עלולה להיכשל באופן עקבי מול קבוצה מסוימת, שפה מסוימת או מצב חריג.
הלקח הרביעי הוא שממשל AI אינו מסמך חד־פעמי. מודלים, ספקים ותנאי שימוש משתנים במהירות. יש צורך במלאי חי של מערכות, בעלים עסקי לכל שימוש, תיעוד גרסאות, רמת רגישות, תאריך בדיקה ודרך עצירה. כאשר צוות מחליף מודל או מתחיל לייצר נתונים סינתטיים, השינוי צריך להיכנס למסלול אישור קצר ומוגדר. תהליך כזה אינו נועד לחסום חדשנות; הוא נועד לאפשר ניסוי מהיר בלי להפוך אב־טיפוס לא מבוקר למערכת שמשפיעה על לקוחות, עובדים או החלטות.
הלקח החמישי הוא הפרדה בין יכולת לבין סמכות. גם אם מודל מסוגל לנתח מידע, להמליץ על פעולה או להפעיל כלי, אין פירוש הדבר שצריך לתת לו סמכות מלאה. בסביבות רגישות יש לקבוע נקודות אישור אנושיות, מגבלות פעולה, רישום אירועים ומנגנון חזרה לאחור. ההפרדה חשובה במיוחד במערכות המבוססות על כמה מודלים וסוכנים, משום שקשה יותר להבין מי יצר כל החלטה ואיזה מידע עבר בין הרכיבים.
לבסוף, נדרש תרגול ולא רק מדיניות. עובדים צריכים לזהות מתי בקשה תמימה לכאורה יוצרת מאגר אימון, מתי מסמך כולל מידע שאסור להזין, ומתי פלט של מודל מחייב אימות נוסף. תרגיל טוב מציג תרחיש אמיתי מן הארגון, מבקש מהמשתתפים לבחור כלי, מידע ורמת בקרה, ולאחר מכן בוחן את הבחירה מול כללי פרטיות, זכויות, אבטחה ואיכות. כך הופכים את עקרונות הממשל להרגל עבודה ולא לרשימת סעיפים שאיש אינו זוכר.
- יש לסווג גם פלטים ונתונים סינתטיים, לא רק מסמכי מקור.
- בדיקת ספק חייבת לכלול מודלים, מתווכים, מיקום עיבוד וזכויות אימון.
- מודל מקומי דורש בדיקות איכות ובטיחות עצמאיות למרות שהנתונים נשארים בארגון.
מה מנהלים ומובילי AI צריכים לעשות עכשיו
הצעד הראשון הוא למפות שימושים שבהם עובדים או ספקים מייצרים כמויות גדולות של פלטים. שימוש כזה יכול להיות לגיטימי לחלוטין, למשל יצירת תרחישי שירות, תרגום מאגרים או בניית שאלות הדרכה. עם זאת, הוא צריך להיות גלוי ולשאת בעלים עסקי. במיפוי כדאי לרשום את המודל המורה, סוג המידע שנכנס, סוג הפלט, מקום האחסון, מי משתמש בתוצרים והאם הם משמשים לאימון מערכת אחרת. המפה מאפשרת לזהות במהירות שימושים שלא כוסו בחוזה או בהערכת הסיכון המקורית.
הצעד השני הוא להוסיף לחוזים ולנהלים שאלות מפורשות על זיקוק. האם מותר לספק להשתמש בפלטים שלנו לאימון? האם אנחנו רשאים להשתמש בפלטי הספק ליצירת מודל פנימי? מה קורה כאשר שירות צד שלישי מפעיל מודל מאחורי הקלעים? כיצד נמחקים נתונים, ומהי ההודעה שנקבל אם ספק משנה מודל? תשובות כלליות על אבטחה אינן מספיקות. נדרש ניסוח שמכסה זכויות שימוש, קניין רוחני, פרטיות, מיקום עיבוד ובקרת משתמש סופי.
הצעד השלישי הוא לבנות מבחן קבלה למודל מזוקק או מותאם. המבחן צריך לכלול דוגמאות רגילות, תרחישי קצה, מידע חסר, ניסיונות להטעות את המערכת ושאלות שאינן בתחום המוגדר. יש למדוד לא רק דיוק אלא גם שיעור סירוב נכון, יציבות, הסבר, הטיה ויכולת לעבור לאדם. כל שינוי בגרסה או במאגר האימון מחייב בדיקה חוזרת בהיקף המתאים לסיכון. כך מונעים מצב שבו שיפור במדד אחד מסתיר פגיעה בבטיחות או באמינות.
הצעד הרביעי הוא לחבר בין אבטחת מידע, משפטים, רכש והיחידה העסקית. אף אחד מהתפקידים הללו אינו יכול לנהל לבדו מערכת AI מורכבת. היחידה העסקית מבינה את התוצאה הרצויה; אבטחת מידע מבינה את האיומים; המשפטנים בוחנים זכויות וחובות; והרכש מחזיק במנגנון החוזי מול הספק. פורום קצר וקבוע, עם קריטריונים ברורים והחלטות מתועדות, יעיל יותר מתהליך כבד שמופעל רק לאחר תקלה.
הצעד החמישי הוא להתייחס לתחקיר כאות למידה ולא כסיבה לבהלה. זיקוק מודלים יכול לשפר נגישות, פרטיות ועלויות כאשר הוא נעשה באופן חוקי, שקוף ומבוקר. הסיכון אינו בעצם קיומה של השיטה, אלא בפער בין היכולת הטכנית לבין הממשל הארגוני. ארגון שמכיר את מקורות המידע, שומר היסטוריית גרסאות, בודק ספקים ומגדיר סמכות יכול להשתמש במודלים קטנים באחריות. ארגון שאינו יודע מי יצר את הנתונים ועל סמך איזה מודל מתקשה להגן על ההחלטות שלו.
עבור ישראל, שבה ארגונים רבים משלבים טכנולוגיות גלובליות, חברות הזנק וספקי ענן, שרשרת האספקה עשויה להיות מורכבת במיוחד. לכן כדאי להתחיל ממקרי שימוש בעלי ערך עסקי ברור, לבחור סביבת עבודה מאושרת, להכשיר עובדים על מידע מותר ואסור, ולשמור נקודת בקרה אנושית בהחלטות משמעותיות. המטרה אינה לבודד את הארגון מטכנולוגיה מתקדמת, אלא לבנות יכולת להשתמש בה לאורך זמן בלי להיות תלוי בהנחות לא בדוקות על זהות המודל, מקור הנתונים או גבולות האחריות.
- מפו שימושים שיוצרים פלטים בהיקף גדול או מאגרי אימון.
- הוסיפו לחוזים סעיפים מפורשים על זיקוק, אימון ושימוש בפלטים.
- בנו מבחני קבלה ורגרסיה למודלים מותאמים.
- חברו רכש, משפטים, אבטחה והיחידה העסקית למסלול החלטה אחד.
מה חשוב לקחת
- התחקיר מצביע על שימוש מחקרי בפלטי מודלים אמריקאיים, אך אינו מוכיח שכל המערכות הפכו למבצעיות.
- זיקוק מודלים מעביר יכולת דרך דוגמאות ופלטים גם בלי להעביר את משקלי המודל המקורי.
- ארגונים צריכים לנהל פלטים סינתטיים, זהות משתמש סופי ושרשרת ספקים כחלק מממשל AI.
- מודל קטן ומקומי אינו פטור מבדיקות איכות, הטיה, בטיחות וזכויות שימוש.
מקורות שנבדקו
שאלות ותשובות
האם צבא סין קיבל גישה רשמית ל־Claude או ל־GPT?
אין ראיה לשיתוף פעולה רשמי. התחקיר מתאר שימוש בפלטים ובדוגמאות שנוצרו באמצעות מודלים אמריקאיים, לעיתים דרך גישה עקיפה או צדדים שלישיים.
האם זיקוק מודלים הוא פעולה אסורה?
לא בהכרח. זו שיטת מחקר ופיתוח מקובלת. החוקיות והאתיקה תלויות בהרשאה, בתנאי השירות, בזכויות על הנתונים, בזהות המשתמש ובמטרת היישום.
האם מודל מזוקק זהה למודל המקורי?
בדרך כלל לא. הוא יכול לחקות היטב משימה או דפוס מסוים, אך אינו משחזר בהכרח את רוחב הידע, היציבות והיכולות של המודל המורה.
מדוע זיקוק חשוב במיוחד במערכות רגישות?
הוא מאפשר להפעיל מודל קטן, מהיר ומקומי בלי תלות רציפה בענן, אך גם עלול להעביר טעויות והטיות שקשה לזהות ללא בדיקה עצמאית.
מה ארגון צריך לבדוק אצל ספק AI?
את מודל המקור, מיקום העיבוד, ספקי המשנה, מדיניות שמירת הנתונים, שימוש בפלטים לאימון, מגבלות משתמש סופי ותהליך עדכון גרסאות.
האם חסימת שבבים מספיקה כדי למנוע העברת יכולות AI?
לא. יכולות יכולות לעבור גם דרך פלטים, נתונים סינתטיים, קוד פתוח, מאמרים ומתווכים. בקרת חומרה היא רק שכבה אחת.
כיצד מכשירים עובדים לשימוש בטוח?
מתרגלים מקרי שימוש אמיתיים, מסווגים מידע ופלטים, בוחרים כלים מאושרים, בודקים תוצאות ומגדירים מתי נדרש אישור אנושי.
בנו שימוש אחראי ב־AI בארגון
סדנת סוכני AI ואוטומציה מחברת בין יכולת טכנולוגית, תהליכי עבודה, אבטחה וממשל מעשי.
לתיאום שיחת מיפוי