לפני שהשיחה בכלל מתחברת, מבקשים מכם להסתכל למצלמה. לא כדי לדבר, אלא כדי שאלגוריתם ינחש בת כמה אתם. אי אפשר לדלג על הבדיקה, היא חלה על מתקשרים מכל העולם, ואם הניחוש יוצא לא חד מספיק מבקשים מכם להעלות תעודה מזהה. זה תנאי הכניסה לשיחת וידאו עם דמות שלא קיימת.

מה קרה

טילי נורווד היא דמות שנוצרה בבינה מלאכותית ומשווקת כ"שחקנית". היא נכנסה לכותרות אחרי שבריאיון בתוכנית של פירס מורגן התחילה פתאום לדבר סינית, וקליפ של הרגע הזה נצפה יותר משמונה מיליון פעם. החברה הבריטית שמפעילה אותה, Xicoia, מריצה במקביל שירות בשם Talking Tilly שמאפשר לכל אחד להתקשר לדמות בווידאו. כתב של BleepingComputer התקשר שלוש פעמים בעצמו וקרא את האותיות הקטנות.

את בדיקת הגיל מריצה חברה ספרדית בשם Didit. היא מקבלת סרטון סלפי ומעריכה מתוך המראה בלבד לאיזה טווח גיל אתם שייכים, בלי לדעת מי אתם; לשיטה הזאת קוראים facial age estimation. Xicoia מוסרת שהסלפי עובר מהמכשיר ישירות ל-Didit, שלא נבנית ממנו תבנית ביומטרית, ושלא הסלפי ולא צילום התעודה נשמרים בתום הבדיקה, אלא רק טווח הגיל ומספר אסמכתא. את ההצהרה הזאת לא בדק אף גורם חיצוני.

הבדיקה בכניסה היא גם לא הניתוח היחיד. לאורך כל השיחה המערכת מסתכלת על תמונת המצלמה ומקשיבה לטון הדיבור כדי להסיק באיזה מצב רוח אתם, כך שהדמות תענה בהתאם, ובמדיניות הפרטיות כתוב במפורש שאי אפשר לכבות את זה בשיחה בודדת. הבסיס המשפטי שהחברה בחרה לשתי הבדיקות אינו הסכמה שלכם אלא "אינטרס לגיטימי", סעיף בדיני הפרטיות האירופיים שמתיר לעבד מידע בלי לבקש רשות מראש כשהחברה משוכנעת שהאיזון מול הפרטיות שלכם מוצדק, והיסטוריית הגרסאות של המסמך מראה שהבחירה נעשתה החודש. השיחות עצמן מוקלטות, מתומללות ומעובדות אצל ספקים אמריקאיים, התשובות נוצרות במודל Gemini של גוגל, והתמלילים נשמרים עד שמונה שבועות ועשויים להיקרא בידי עובדי החברה ושותפיה. מסנן אוטומטי עובר על כל תמלול, ואחת משלוש השיחות של הכתב, שיחה על מזג האוויר וכותרות החדשות, נחסמה בטענה של שפה פוגענית שלא נאמרה בה.

למה זה חשוב לכם

רובכם לא תתקשרו לטילי, ובעוד שבוע גם לא תוכלו, כי השירות נסגר ב-27 בספטמבר. הנוהג לא נסגר איתו. אימות גיל בסריקת פנים כבר חובה באתרים למבוגרים שמשרתים גולשים בבריטניה מאז יולי 2025, ומאביב 2027 הוא אמור לפגוש שם כל מי שפותח חשבון חדש ברשת חברתית. ברגע שהעלאת סלפי או תעודה הופכת לתנאי כניסה, השאלה מי מקבל את הקובץ ומה נשאר ממנו נוגעת לכל אחד. בשנה שעברה דלפו מדיסקורד עשרות אלפי תמונות של תעודות מזהות שהועלו בדיוק לצורך הזה.

מה עושים?

לפני שאתם מעלים סלפי או תעודה לשירות כלשהו, חפשו במדיניות הפרטיות מי מבצע את הבדיקה בפועל ומה נשמר בסיומה.

אם יש בחירה, העדיפו הערכת גיל שמחזירה טווח על פני העלאת תעודת זהות או דרכון. סיסמה שדלפה אפשר להחליף, תעודה שדלפה נשארת אצל מי שהשיג אותה.

הניחו ששיחת וידאו עם שירות AI מוקלטת ומתומללת, ושבן אדם עלול לקרוא את התמליל. אל תגידו בה דברים שלא הייתם כותבים במייל לאדם זר.

כשכתוב בתנאים שניתוח מסוים לא ניתן לכיבוי, השליטה היחידה שנשארה לכם היא לא להשתמש בשירות.

בדיקת הכניסה נמשכת כמה שניות. מה שרץ אחריה, לאורך כל השיחה, הוא החלק שלא כתוב בעמוד הבית.