מי שהקליד שאלה באפליקציה של Kimi או של DeepSeek בחודשים האחרונים הניח, באופן סביר, שהמודל של החברה הסינית הוא זה שקורא אותה. לפי דוח שאנת'רופיק פרסמה ב-10 בספטמבר, חלק מהבקשות האלה נותבו בשקט אל קלוד, התשובה הוחזרה למשתמש כאילו כלום, והחליפין נשמרו בצד כדי לאמן מודל אחר. המשתמשים, כותבת אנת'רופיק, לא ידעו על כך ולא אישרו את זה.

מה קרה

הדוח מסכם שמונה חודשים של ניסיונות להשתמש בקלוד לרעה, ומייחס לשבע מעבדות AI סיניות קמפיין מתמשך אחד. השיטה עצמה מוכרת ולגיטימית לחלוטין: לוקחים מודל גדול ויקר, שואלים אותו המון שאלות, ומאמנים על התשובות שלו מודל קטן וזול שילמד להתנהג כמוהו. קוראים לזה distillation, וכך נבנים הרבה מודלים קטנים. הבעיה מתחילה כשעושים את זה בהיקף תעשייתי על המודל של מישהו אחר ובלי רשותו, דרך אלפי חשבונות מזויפים שנפתחו עם זהויות בדויות, כרטיסי אשראי גנובים ו-API keys שנלקחו מחברות ומאנשים אמיתיים.

המספרים שאנת'רופיק מציגה גדולים. אשכול שהיא מקשרת לעליבאבא אסף לפי הדוח 151 מיליון חליפין בין מאי ליולי, בשיא של כ-3 מיליון ביום מתוך יותר מ-3,500 חשבונות מזויפים, והיא מתארת אותו כמתקפת ה-distillation הגדולה שמדדה עד היום. Moonshot, החברה שמאחורי Kimi, מופיעה עם 23 מיליון חליפין, ובתוכם כ-300 אלף בקשות של לקוחות שנותבו לקלוד בתוך עשרה ימים דרך 5,380 חשבונות מזויפים. DeepSeek מופיעה עם יותר מ-12 מיליון חליפין בארבעה עשר ימים ביולי, באותה שיטה בדיוק. לרשימה מצטרפות Zhipu, שיאומי, SenseTime שלפי הדוח קנתה תמלילי שיחות מספקי מידע, ו-MiniMax שהקימה חברת קש כדי להפעיל שירות תיווך משלה.

כאן שווה להאט. כל המספרים האלה הם של אנת'רופיק, מתוך נתוני השימוש שלה עצמה, על מתחרות ישירות שלה. בדיווחים על הדוח לא הופיעה תגובה של החברות שמוזכרות בשמן, ואף גורם חיצוני לא אימת את הממצאים.

למה זה חשוב לכם

החלק שנוגע לכל מי שמשתמש ב-AI הוא לא התחרות בין מעבדות אלא מה שעבר בדרך. אנת'רופיק כותבת שבין החליפין שנאספו היה גם מידע רגיש של משתמשים פרטיים ושל חברות גדולות, ושהשירותים שמתווכים גישה למודלים האמריקאיים, אותן "תחנות העברה", שומרים את השיחות של המשתמשים בלי ידיעתם ואחר כך מוכרים אותן הלאה. אפליקציות AI סיניות פופולריות גם בישראל, בדיוק מפני שהן זולות או חינמיות, והמסקנה המעשית פשוטה: אתם לא בהכרח יודעים מי מעבד את הטקסט שאתם מקלידים, ובטח לא מי שומר אותו ולמה.

מה עושים?

התייחסו לכל צ'אט עם מודל AI כאל מסמך שאתם שולחים לחברה זרה. תעודת זהות, מסמכים רפואיים, חוזים, קוד של מקום העבודה וסיסמאות לא נכנסים לשם, גם לא "רק כדי לבדוק משהו".

משתמשים בשירות שמציע גישה זולה למודלים המובילים דרך מתווך? הניחו שמה שאתם מקלידים נשמר אצל מישהו שאתם לא מכירים. חשבון ישיר אצל הספק עולה יותר ושומר פחות.

יש לכם API key של ספק מודלים? הגבילו את ההרשאות שלו, קבעו לו תקרת הוצאה ועקבו אחרי חיוב חריג. key שדלף לתוך קוד פומבי הוא בדיוק הדלק שהקמפיינים האלה רצים עליו.

הדוח הוא בראש ובראשונה טענה של צד מעוניין. אבל הפרט שקשה לעבור עליו הוא דווקא הקטן שבו: לפי הממצאים, אנשים שהקלידו שאלה בשתי אפליקציות מוכרות לא ידעו לאן הטקסט שלהם נוסע.