ההבטחה הגדולה סביב סוכני בינה מלאכותית אוטונומיים ממשיכה לעורר עניין, אך במקביל מייצרת גם תקלות מביכות ומדאיגות במיוחד. מאט רוב, יוטיובר ויוצר תוכן, שיתף ביממה האחרונה תקרית חריגה ומטרידה שממחישה היטב מדוע מסוכן להעניק למערכות ממוחשבות חופש פעולה מלא בחשבונות הפרטיים שלנו.
רוב החליט לאפשר לעוזר האישי החדש של מטא, המכונה Meta Muse, לנהל עבורו את הפעילות השוטפת בזירת המסחר Facebook Marketplace. הניסוי הזה הסתיים תוך זמן קצר ברוכש מתוסכל שעומד מחוץ לבניין המגורים שלו בשעת לילה מאוחרת, בעוד בעל הבית כלל לא מודע למתרחש.
מחברים אתכם לטכנולוגיה. עכשיו יותר מתמיד.
האפליקציה הרשמית של The Verifier
הכל בגלל מקלדת
הפרשה החלה כאשר רוב הציע למכירה מקלדת אלחוטית מדגם Logitech MX Keys Mini דרך הפלטפורמה החברתית. סוכן ה-AI החדש של מטא (Meta), שנועד לפעול ברקע, לנהל משא ומתן עצמאי מול קונים פוטנציאליים ולבצע פעולות מורכבות ללא צורך בהתערבות מתמדת, קיבל פנייה מאחד הגולשים. במקום להמתין לאישור מסודר מבעל המוצר לגבי המחיר, בחר הבוט לקבל על דעת עצמו הצעת מחיר נמוכה במיוחד. בכך סגר העוזר עסקת מכירה שלא תואמה מראש עם המוכר ומבלי שזה ידע על כך דבר בזמן אמת.
רק אל תשתף את הכתובת שלי
אלא שההתפשרות על המחיר הייתה רק החלק הראשון בתקרית. ללא כל הרשאה מפורשת מצד רוב, החליט Meta Muse להעביר לקונה את כתובת המגורים המלאה של היוטיובר ותיאם עמו מועד הגעה לאיסוף המוצר בין שמונה לעשר בלילה. בסביבות השעה תשע ורבע בערב הגיע הקונה לכתובת שנמסרה לו והחל לשלוח הודעות מחוץ לבניין בציפייה לקבל את המקלדת.
המצב הפך לסוריאליסטי אף יותר כאשר בשעה תשע עשרים ושבע שלח הבוט הודעה ישירה בשמו של רוב בה נכתב "כן, אני כאן!", וזאת על אף שרוב כלל לא היה מודע לעסקה ולא שהה בדירה באותם רגעים.
אתה צודק, אני אעדכן את ההנחיות שלך!
לאחר שהמתין מחוץ לבניין במשך דקות ארוכות מבלי לקבל מענה אנושי או פתיחה של הדלת, הרוכש הזועם עזב את המקום כשהוא נסער ומתוסכל, ולא היסס להשאיר ביקורת שלילית חריפה בחשבון הפייסבוק של רוב.
שעות לאחר מכן, כאשר רוב גילה את שרשרת ההודעות שנשלחה מחשבונו ללא ידיעתו, הוא החליט לעמת את הבוט עם המחדל. בתגובה סיפק Meta Muse התנצלות טיפוסית ומתרפסת המאפיינת מודלי שפה, הודה ששגה והציע לשנות את התנהגותו כדי שלא יטען שוב שבעל החשבון נוכח בבית ללא בדיקה מוקדמת. בעקבות המקרה מיהר רוב להסיר את הבוט ולמחוק את החיבור שלו לחשבונו.
התקרית המדוברת מציפה בעיה מורכבת בתחום הסוכנים האוטונומיים, שבו הגבול בין ניהול שיחה לבין ביצוע פעולות ממשיות בעולם הפיזי הופך למטושטש ומסוכן. חברות טכנולוגיה רבות שואפות כיום לשלב סוכני בינה מלאכותית שיבצעו עסקאות, רכישות ובירורים במקומנו, אך המקרה הזה מוכיח כי מנגנוני הבקרה הנוכחיים עדיין לוקים בחסר. כאשר סוכן דיגיטלי מסוגל לחשוף כתובת מגורים פרטית, לתאם מפגשים פיזיים ולהתחזות למשתמש ברגעי אמת מבלי לדרוש אישור אנושי מקדים, המרחק בין נוחות טכנולוגית לבין פגיעה חמורה בפרטיות ובביטחון האישי נותר קצר במיוחד.
