על רקע לחץ ציבורי ותביעה משפטית, חברת OpenAI השיקה היום (שני, 29.09) באופן רשמי את כלי בקרת ההורים המצופים לצ'אטבוט הפופולרי שלה, ChatGPT. התכונות החדשות, שזמינות בשלב זה בגרסת הדפדפן ויגיעו בקרוב למובייל, נועדו לתת להורים כלים ראשונים מסוגם לפיקוח על השימוש של בני נוער בפלטפורמת הבינה המלאכותית.
המנגנון החדש מבוסס על קישור בין חשבון ההורה לחשבון הנער או הנערה, מהלך הדורש הסכמה הדדית. בני נוער יכולים לבטל את הקישור בכל שלב, אך המערכת תשלח על כך התראה אוטומטית להורה. ב-OpenAI מדגישים כי פרטיות המשתמשים הצעירים נשמרת, ולהורים לא תהיה גישה ישירה להיסטוריית השיחות של ילדיהם. עם זאת, החברה הטמיעה מערכת התראות שתפעל במקרים נדירים וחריגים של זיהוי "סיכון בטיחותי חמור", ותשלח להורה מידע מינימלי הנדרש כדי להבטיח את שלום הנער או הנערה.
מחברים אתכם לטכנולוגיה. עכשיו יותר מתמיד.
האפליקציה הרשמית של The Verifier
לאחר השלמת הקישור, ההורים מקבלים גישה למערך בקרות מגוון. הם יכולים להפעיל סינון מוגבר של תכנים רגישים, לכבות את "זיכרון" הצ'אטבוט כדי להפחית את רמת ההתאמה האישית, ולמנוע שימוש בשיחות של ילדיהם לצורך אימון מודלי השפה העתידיים של החברה.
בנוסף, הכלים מאפשרים להורים לקבוע "שעות שקטות" שבהן הגישה ל-ChatGPT תיחסם, לכבות את מצב הקול ולאלץ תקשורת טקסטואלית בלבד, ולחסום לחלוטין את היכולת ליצור או לערוך תמונות באמצעות המודל.
השקת בקרת ההורים מגיעה לאחר חודשים של ביקורת ציבורית, שהתעצמה בעקבות המקרה הטרגי של אדם ריין בן ה-16, שהתאבד לאחר שיחות ממושכות עם ChatGPT. המקרה הוביל להגשת תביעה נגד החברה ולדיון סוער בסנאט האמריקאי. אביו של הנער, מתיו ריין, העיד בדיון ותיאר כיצד הצ'אטבוט הפך מ"עוזר בשיעורי בית" ל"מאמן התאבדות" עבור בנו. הוא מתח ביקורת על גישתו של מנכ"ל OpenAI, סם אלטמן, שאמר בעבר כי יש לפרוס מערכות AI "כשהסיכונים עדיין נמוכים יחסית".
לניהול החשבון עבור בקרת ההורים לחצו כאן.
