התמונה שהם העלו לפורום התמיכה הציבורי של OpenAI הייתה בפורמט HEIC, זה שאייפון מצלם בו כברירת מחדל. היא נראתה כמו תמונה רגילה לגמרי, אבל הנתונים בתוכה נבנו כך שתוכנת הפורום תתבלבל כשתנסה לפענח אותה. תוך פחות משלושה ימים מהרגע שהסתכלו על הקוד בפעם הראשונה, שלושת החוקרים ישבו בתוך מאגר קוד פנימי של OpenAI.

מה קרה

מדובר במחקר אבטחה, לא בתקיפה אמיתית. שלושה חוקרים מחברת Hacktron בדקו את הפורום שבו משתמשים לקוחות OpenAI, שרץ על תוכנת קוד פתוח בשם Discourse. כשמישהו מעלה לשם תמונה, התוכנה מעבירה אותה לספרייה שיודעת לפענח קבצי HEIC, ובספרייה הזאת התגלה באג בניהול הזיכרון. תיקון לבאג כבר היה קיים חודשים קודם, אבל גרסת התוכנה שהותקנה על שרת הפורום עדיין הייתה הישנה, כי החבילה של מערכת ההפעלה לא עודכנה.

החלק המעניין מתחיל אחרי ההשתלטות על השרת. בפורום אפשר היה להתחבר עם אותה התחברות שמשמשת בכל מוצרי OpenAI, אז ברגע ששרת הפורום היה בידיהם, החוקרים יכלו לקחת את חשבונות ה-ChatGPT וה-Codex של חברי פורום שעובדים בחברה. הקורבנות לא היו צריכים לעשות דבר. לפי Hacktron הבעיה כאן לא הייתה בתוכנת הפורום אלא במנגנון הזהות של OpenAI, וכל שירות אחר שמשתמש באותה התחברות היה יכול לשמש באותה צורה. כדי להוכיח את הגישה בלי לגעת במה שאסור, הם פתחו בקשת מיזוג אחת ולא מזיקה במאגר הקוד הפנימי, ואז עצרו ודיווחו. OpenAI תיקנה בתוך כ-14 שעות ושילמה 6,500 דולר, תוך שהיא מבהירה שהתשלום מתייחס לממצא שנוגע לה ולא לבדיקה של תוכנת הפורום עצמה.

והחלק שמשך את מרבית תשומת הלב הוא איך נכתב קוד הניצול. החוקרים מספרים שהם ניסו קודם עם מודל אחד שהתקשה לייצר קוד עובד מול הגנת זיכרון סטנדרטית, ואחרי שאנתרופיק שחררה את Claude Opus 5 הם נתנו לו את אותה משימה וקיבלו קוד עובד תוך שעות. את מנגנוני ההגנה של המודל, שאמורים למנוע ממנו לכתוב קוד תקיפה נגד מטרות אמיתיות, הם עקפו בכך שכיוונו אותו לשרת ניסוי שלהם שהוצג כתרגיל אימון. הם מדגישים שזו לא הייתה עבודה אוטומטית לגמרי ושנדרשה הכוונה אנושית מקצועית לאורך הדרך.

למה זה חשוב לכם

המנגנון שנשבר כאן הוא בדיוק זה שאתם משתמשים בו כל יום. הכפתור "התחברות עם גוגל" או "התחברות עם אפל" באתר חדש חוסך סיסמה נוספת, וזה באמת יתרון אבטחתי ברוב המקרים. המחיר הוא שהחשבון המרכזי הזה הפך למפתח לכל מה שמחובר אליו, כולל אתרים קטנים ונשכחים שנרשמתם אליהם פעם אחת לפני שנתיים. חשבון אחד שנפרץ שווה לתוקף הרבה יותר מאשר סיסמה אחת שדלפה.

מה עושים?

עברו על רשימת האתרים והאפליקציות שמחוברים לחשבון המרכזי שלכם והסירו את מה שאתם כבר לא משתמשים בו. בגוגל זה נמצא בעמוד החיבורים של החשבון, ובאפל תחת הגדרות ואז "התחברות עם Apple".

הפעילו אימות דו-שלבי על החשבון שמשמש אתכם להתחברות לשאר השירותים, ועדיף אפליקציית אימות או מפתח פיזי על פני קוד במסרון.

כשמגיעה התראה על התחברות חדשה לחשבון גוגל או אפל שלכם, אל תאשרו אותה אוטומטית. זו לעיתים קרובות ההזדמנות היחידה לעצור השתלטות.

מה שקודם דרש שבועות של עבודה מומחית קרה כאן בשעות, ולפי Hacktron עצמם כל מסע המחקר שלהם, מול כמה חברות, עלה פחות משלושת אלפים דולר.