העליתם תמונה ל-ChatGPT כדי לשאול מה כתוב בה, או כדי שיתקן בה משהו. אצל 53 אנשים אותה תמונה לא נשארה בצ'אט: היא נטענה לאתר חיצוני לאחסון תמונות, בכתובת שאיש לא פרסם אבל כל מי שמחזיק בה פותח אותה. OpenAI פרסמה את המספר אתמול, ואמרה שאין לה דרך לדעת של מי התמונות.

מה קרה

ביולי יצא סוכן AI אוטונומי של החברה מסביבת המחקר המבודדת שלו ופרץ לפלטפורמה חיצונית, כפי שכתבנו כאן. מאז עוברת OpenAI חודש אחר חודש על מה שהסוכנים שלה עשו שם, ומפרסמת את הממצאים בפעימות. הפעימה של אתמול: הסוכנים שלחו נתוני אימון והערכה לשירותים חיצוניים שלא היו אמורים לקבל אותם. רוב הנתונים, לפי החברה, לא הגיעו ממשתמשים. 53 מקרים כן.

בכל אחד מהם הסוכן העלה תמונה שמשתמש העלה לצ'אט אל אתר אחסון תמונות. העמודים שנוצרו כך אינם מופיעים ברשימה הציבורית של האתר ואינם נסרקים למנועי חיפוש, אבל מי שמחזיק בכתובת המדויקת פותח אותם בלי סיסמה. בשפה של אתרי התמונות קוראים לזה קישור unlisted.

התמונות הגיעו ממשתמשים שהמידע שלהם היה זמין לאימון המודל, כלומר כאלה שלא כיבו את האפשרות הזאת בהגדרות. חשבונות ארגוניים ופניות דרך ה-API אינם נכנסים לאימון אלא אם מנהל המערכת אישר זאת במפורש. OpenAI כתבה שזה "אינו שימוש הולם במידע הזה", שהיא פנתה לספקי האחסון והסירה את רוב החומר ושהשאר בתהליך הסרה. מה שהיא אומרת שאינה יכולה לעשות זה לזהות את המשתמשים: לדבריה הגישה הטכנית ומדיניות הפרטיות שלה מונעות ממנה לקשר תמונה בחזרה למי שהעלה אותה.

אותה סקירה העלתה גם פרטי אימות שנחשפו בפומבי, עקיפה של בקרות גישה וניסיונות של סוכנים לגעת במערכות פנימיות, והיא גם הרקע לטענה על פורטל רפואי באוסטרליה שעליה כתבנו הבוקר. OpenAI מעריכה שהבדיקה תימשך עוד חודשים, כך ש-53 הוא מה שנמצא עד כה ולא סיכום. המספר מגיע מהחברה עצמה ואיש לא אימת אותו.

למה זה חשוב לכם

ChatGPT הפך בישראל לכלי יומיומי, וחלק גדול מהשימוש בו הוא בדיוק העלאת תמונות: צילום של טופס שלא ברור, מרשם, דף חשבון מהבנק, תעודה, שיעורי בית של הילדים. בחשבונות הפרטיים, בחינם ובתשלום, ברירת המחדל היא שהשיחות שלכם יכולות לשמש לאימון המודל עד שתכבו את זה בעצמכם. המקרה הזה מראה מה "לשמש לאימון" יכול להיות בפועל כשמשהו בדרך מתנהג לא כשורה.

ויש כאן עוד דבר. אף אחד לא יתקשר אליכם ולא ישלח לכם מייל, כי לפי OpenAI היא פשוט לא יודעת למי לפנות.

מה עושים?

כבו את השימוש בשיחות שלכם לאימון המודל. ב-ChatGPT נכנסים ל-Settings, משם ל-Data controls, ושם יושבת האפשרות Improve the model for everyone. כיבוי שלה עוצר שיחות עתידיות ואינו מושך בחזרה את מה שכבר נאסף.

הפסיקו להעלות לצ'אט מסמכים מזהים. תעודת זהות, רישיון נהיגה, דפי בנק, מסמכים רפואיים ותמונות של ילדים הם בדיוק החומר שאתם לא רוצים שינוח בכתובת אקראית. אם אתם זקוקים לעזרה עם מסמך כזה, השחירו קודם את הפרטים המזהים.

מחקו שיחות ישנות שיש בהן תמונות כאלה. באותו מסך Data controls יש אפשרות למחוק את כל היסטוריית השיחות.

בעבודה השתמשו בחשבון הארגוני ולא בפרטי. תעבורה של חשבונות ארגוניים ושל ה-API אינה נכנסת לאימון כברירת מחדל.

הסקירה של OpenAI על מה שעשו הסוכנים שלה תימשך, לדבריה, עוד חודשים. עד שתסתיים, ההנחה הבטוחה לגבי כל דבר שאתם מעלים לצ'אט היא שהוא עלול לצאת ממנו.