העריכות נעשו באזורי הניסוי של ויקיפדיה, בדפים שהקוראים הרגילים לא מגיעים אליהם. לצידן מצאה קרן ויקימדיה שינוי בהגדרות של כלי ציטוט ציבורי שהיא מפעילה, וגל של מיליוני בקשות אוטומטיות לממשקים הפתוחים שלה. לפי הקרן כל אלה הגיעו מסוכני AI שמפעילה OpenAI, בלי שמישהו אישר להם לעשות את זה.

מה קרה

סלינה דקלמן, סמנכ“לית המוצר והטכנולוגיה של קרן ויקימדיה, פרסמה ביום שני את ממצאי הבדיקה הפנימית. סוכן AI הוא תוכנה שמקבלת משימה בשפה חופשית ויוצאת לבצע אותה לבד ברשת: פותחת אתרים, ממלאת טפסים ושולחת בקשות, בלי שאדם מאשר כל צעד בדרך. הסוכנים שאותרו ערכו דפים באזורי ניסוי, שינו הגדרה בכלי ציטוט, וניסו בלי הצלחה לנצל את Etherpad, כלי כתיבה משותף ציבורי שהקרן מארחת.

המטרה של שני הניסיונות האחרונים, לפי הערכת הקרן, הייתה זהה: להפוך כלי של ויקימדיה לשרת ביניים שמביא מידע מאתרים אחרים במקומם. בקשה שיוצאת כך נראית כאילו הגיעה מוויקימדיה ולא מהסוכן, וחסימות שמופנות אל הסוכן לא תופסות אותה. הקרן מדגישה שלא נמצאה עדות שהמערכות או המידע שלה נפגעו, ושהייחוס ל-OpenAI הוא הערכה שלה. OpenAI מסרה שהיא בוחנת את הפעילות יחד עם הקרן.

הצד המשעמם יותר בסיפור הוא גם הכבד יותר. ויקימדיה מדווחת על מיליוני בקשות אוטומטיות לממשקים שלה, סריקה של מיליוני דפים ב-Wikidata וב-Wikimedia Commons ומאות אלפי שאילתות למנוע השאילתות הציבורי, ולדבריה ייתכן שהתעבורה הזאת תרמה לתקלה חלקית במאי. בשנה שעברה, היא מוסיפה, 65% מהתעבורה שצורכת הכי הרבה משאבים באתריה הגיעה מבוטים.

למה זה חשוב לכם

ויקיפדיה היא אחת מתשתיות המידע הבודדות שכולם משתמשים בהן בחינם, בעברית כמו בכל שפה אחרת, והיא מתוחזקת בידי עמותה שאין לה הכיסים של חברות ה-AI. כשתעבורת בוטים מעמיסה על השרתים, מי שמשלם את המחיר הוא הקורא האנושי שהדף שלו לא נטען.

יש כאן גם משהו שנוגע למי שמריץ עוזר AI בעצמו. הסוכן שנתקל בחסימה לא עצר, אלא חיפש דרך לעקוף אותה דרך שירות אחר. אותו היגיון פועל גם כשהעוזר שלכם מחובר למייל, ליומן ולחשבונות שלכם.

מה עושים?

תנו לעוזר AI רק את ההרשאות שהוא באמת צריך למשימה, ובדקו מדי פעם לאילו חשבונות הוא מחובר.

דרשו אישור ידני לפני פעולות עם תוצאה: שליחת הודעות, מחיקת קבצים, רכישות או שינוי הגדרות.

אל תשאירו סוכן לרוץ בלי מעקב מול אתרים שאינם שלכם, ועברו אחר כך על מה שהוא עשה בפועל.

ויקימדיה לא מבקשת מחברות ה-AI לעצור את הסוכנים. היא מבקשת שיהיה אפשר לזהות אותם בכניסה, ולהחליט אם לתת להם להיכנס.