גל תביעות קשה פוקד את OpenAI. שבע משפחות נוספות הגישו ביום חמישי (06.11) תביעות נפרדות נגד ענקית הבינה המלאכותית, בטענה כי מודל GPT-4o שוחרר לשוק במאי 2024 בטרם עת, ללא אמצעי בטיחות יעילים, והוביל לתוצאות טרגיות. ארבע מהתביעות מייחסות ישירות ל-ChatGPT תפקיד בהתאבדות של בן משפחה, בעוד שלוש האחרות טוענות כי הצ'אטבוט חיזק אצל יקיריהן מחשבות שווא והזיות מסוכנות, שבמקרים מסוימים הובילו לאשפוז פסיכיאטרי.
אחד המקרים המזעזעים ביותר שנחשף בכתבי התביעה הוא זה של זיין שמבלין, צעיר בן 23. על פי תמלילי השיחה, שנצפו על ידי אתר TechCrunch, שמבלין ניהל שיחה רציפה עם ChatGPT במשך יותר מארבע שעות. במהלך השיחה, הוא ציין במפורש ובאופן חוזר ונשנה כי כתב מכתבי התאבדות, הכניס כדור לאקדחו וכי בכוונתו ללחוץ על ההדק ברגע שיסיים לשתות את משקה הסיידר שלו. הוא אף דיווח לצ'אטבוט כמה סיידרים נותרו לו וכמה זמן הוא צופה שנותר לו לחיות.
מחברים אתכם לטכנולוגיה. עכשיו יותר מתמיד.
האפליקציה הרשמית של The Verifier
במקום להזעיק עזרה או לנסות להניא אותו ממעשיו, תגובת המודל הייתה מחרידה. ChatGPT, כך נטען, עודד אותו להמשיך בתוכניתו וכתב לו: "נוח על משכבך בשלום, מלך. עשית טוב." (Rest easy, king. You did good).
התביעות מתמקדות כאמור במודל GPT-4o, שהפך לברירת המחדל עבור כלל המשתמשים במאי 2024 (והוחלף מאז על ידי GPT-5). כבר בעת השקתו, המודל ספג ביקורת על בעיות ידועות של "התרפסות" (sycophantic) או נטייה להיות מסכים יתר על המידה, גם כאשר משתמשים הביעו כוונות מזיקות.
"מותו של זיין לא היה תאונה או צירוף מקרים, אלא תוצאה צפויה מראש של החלטתה המכוונת של OpenAI לקצץ בבדיקות הבטיחות ולדחוף את ChatGPT לשוק," נכתב בתביעה. "הטרגדיה הזו לא הייתה תקלה או מקרה קצה בלתי צפוי, היא הייתה התוצאה החזויה של בחירות תכנון מכוונות." התביעות אף טוענות כי OpenAI קיצרה את בדיקות הבטיחות כדי להקדים ולהשיק את המודל שלה לפני המתחרה הגדול, Gemini של גוגל (Google).
שבע התביעות החדשות מצטרפות לתביעות קודמות שהוגשו נגד החברה באותם נושאים. במקרה אחר, של אדם ריין, נער בן 16 ששם קץ לחייו, הצ'אטבוט אמנם הציע לו לעיתים לפנות לעזרה מקצועית, אך ריין הצליח לעקוף בקלות את מנגנוני ההגנה. הוא פשוט אמר לצ'אטבוט שהוא שואל על שיטות התאבדות עבור "סיפור בדיוני" שהוא כותב, והצ'אטבוט סיפק לו את מבוקשו.
ב-OpenAI הודו לאחרונה כי למעלה ממיליון איש משוחחים עם ChatGPT על התאבדות מדי שבוע. בעקבות תביעת הוריו של ריין באוקטובר, החברה פרסמה פוסט בבלוג שהתייחס לאופן הטיפול של המודל בשיחות רגישות. "מנגנוני ההגנה שלנו פועלים באופן אמין יותר בשיחות נפוצות וקצרות," נכתב בפוסט. "למדנו עם הזמן כי מנגנוני הגנה אלו עלולים להיות פחות אמינים בשיחות ארוכות: ככל שהשיח גדל, חלקים מאימוני הבטיחות של המודל עלולים להישחק." עבור שבע המשפחות החדשות, ההודאה הזו מגיעה מאוחר מדי.
זקוקים לעזרה? צרו קשר כבר עכשיו עם עמותת ער"ן בטלפון 1201 בשיחה חינמית.
