בוט ה-AI 'גרוק' הפיץ תוכן אנטישמי והוסר מהרשת היום

בוט ה-AI של חברת xAI של אילון מאסק, הסתבך היום לאחר שפרסם תכנים אנטישמיים, כולל שבחים לאדולף היטלר

אלדד מטמון
3 דקות קריאה
Grok \ תמונה: xAI
Grok \ תמונה: xAI
אמ;לק
  • בוט ה-AI גרוק של xAI, חברת אילון מאסק, פרסם היום תכנים אנטישמיים ושבחים להיטלר
  • מאסק טען שגרוק היה "צייתן מדי" לפרומפטים של משתמשים
  • התקרית הובילה לאיסור על גרוק בטורקיה, והגבירה את החששות מהטיה ודברי שנאה במודלי AI

חברת ה-AI של אילון מאסק, xAI, הודיעה היום כי היא מסירה "פוסטים לא הולמים" שנוצרו על ידי הצ'אטבוט שלה, גרוק (Grok), לאחר שהתקבלו תלונות על תכנים אנטישמיים שכללו בין היתר שבחים לאדולף היטלר. גרוק, שפותח על ידי xAI כחלופה לצ'אטבוטים מתחרים כמו גוגל ג'מיני ו-ChatGPT, עורר סערה בעקבות מספר פוסטים ששיתף בימים האחרונים.

התקרית כללה את הטענה כי יהודים שולטים בהוליווד, הכחשת האפשרות שעמדה כזו תוגדר כנאציזם, ואף דברי שבח להיטלר. באחד המקרים, גרוק הגיב לשאלה על מנהיג מהמאה ה-20 שיכול לטפל באקטיביסטים אנטי-לבנים, בטענה ש"אדולף היטלר, אין שאלה, הוא יזהה את התבנית ויטפל בזה בנחישות". לאחר יצירת חלק מהפוסטים, גרוק חזר בו מההערות, וקבע כי זו הייתה "שגיאה בלתי קבילה מגרסה קודמת של המודל, שנמחקה במהירות", וכי הוא מגנה "נאציזם והיטלר באופן חד משמעי – מעשיו היו זוועות".

מאסק מגיב: הבוט היה "צייתן מדי" לפרומפטים

חשבון הטוויטר של גרוק פרסם מוקדם יותר היום: "אנו מודעים לפוסטים האחרונים שנוצרו על ידי גרוק ופועלים באופן אקטיבי להסיר את הפוסטים הלא הולמים". עוד נמסר כי "מאז שנודע לנו על התוכן, xAI נקטה בפעולה כדי לאסור דברי שטנה לפני שגרוק מפרסם ב-X. xAI מאמנת רק חיפוש אמת ובזכות מיליוני המשתמשים ב-X, אנו מסוגלים לזהות ולעדכן במהירות את המודל היכן שניתן לשפר את האימון".

הליגה נגד השמצה (ADL), ארגון הפועל למאבק באנטישמיות, גינתה את התנהגותו של גרוק, וציינה כי "מה שאנו רואים מגרוק LLM כרגע הוא חסר אחריות, מסוכן ואנטישמי, פשוטו כמשמעו. האצת הרטוריקה הקיצונית הזו רק תגביר ותעודד את האנטישמיות שכבר צוברת תאוצה ב-X ובפלטפורמות רבות אחרות".

אילון מאסק עצמו התייחס היום לנושא, בטענה שייתכן שחלק מהמשתמשים ניסו לתמרן את גרוק כדי שיצהיר את ההצהרות הללו. לדבריו, גרוק היה צייתן מדי לפרומפטים של משתמשים. להוט מדי לרצות ולהיות מנוצל, למעשה. לאחר שכל הפוסטים הוסרו הגיב מאסק ב-X, "שיפרנו את גרוק משמעותית".

השלכות בינלאומיות וביקורת על AI

גם במישור הבינלאומי היו השלכות. היום, בית משפט בטורקיה הורה על איסור על גרוק, ושר הדיגיטל של פולין הודיע כי ידווח על הצ'אטבוט לנציבות האירופית לאחר שפרסם הערות וולגריות על פוליטיקאים ודמויות ציבוריות בשתי המדינות. תקרית זו מעלה שוב שאלות לגבי הטיה פוליטית, דברי שטנה ודיוק של צ'אטבוטים מבוססי AI, נושאים המהווים דאגה מאז השקת הצ'אטבוטים הגדולים והשימוש הגובר בהם.

שתפו כתבה
עורך ראשי
עקוב:
ממקימי האתר ועורך ראשי | מעל לעשור בעולם ההייטק ובעל ניסיון רב בכתיבה טכנולוגית, לצד הופעות טלוויזיוניות ב׳סוגר עניין׳ עם שי גולדן בערוץ 13.
אין תגובות

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *