ההכרזה האחרונה של OpenAI על החלת כלי זיהוי גיל ב-ChatGPT חושפת איזור מעניין באסטרטגיה של ענקית הבינה המלאכותית: כדי לאפשר למבוגרים להשתמש בכלים שלה "בדרך שהם רוצים", החברה חייבת קודם כל לוודא שאף קטין לא נחשף לתכנים הללו. במילים אחרות, הסרת הרסן עבור המבוגרים תלויה ביכולת של החברה לסגור את הדלת בפני הילדים.
בהודעה הרשמית, החברה מדגישה כי המהלך נועד לא רק להגן על בני נוער, אלא גם לאפשר לה "להתייחס למבוגרים כמו מבוגרים". המשמעות היא ש-OpenAI מבינה שהצנזורה האגרסיבית שהופעלה עד כה על המודלים שלה פגעה בחוויית השימוש של היוצרים המקצועיים והמשתמשים הבגירים, וכעת היא מציעה עסקה: פחות פרטיות תמורת פחות צנזורה.
מחברים אתכם לטכנולוגיה. עכשיו יותר מתמיד.
האפליקציה הרשמית של The Verifier
הסרת הכפפות (בגבולות הטעם הטוב)
עד היום, מנגנוני הבטיחות של ChatGPT היו גורפים ולעיתים דרקוניים. תכנים שנחשדו כבעלי אופי אלים, רומנטי-מיני או כאלו שעוסקים בנושאים רגישים, נחסמו לעיתים קרובות ללא אבחנה. הטמעת זיהוי גיל ב-ChatGPT אמורה לשנות את המשוואה הזו.
על פי החברה, ברגע שהמערכת תהיה בטוחה שהמשתמש הוא בגיר, היא תוכל להסיר חלק מההגבלות הקשיחות. זה לא אומר ש-ChatGPT יהפוך לפלטפורמה פורנוגרפית – החברה עדיין כפופה לכללי "גבולות הבטיחות" שלה – אבל זה כן אומר שמשתמשים מבוגרים יוכלו לייצר תכנים מורכבים יותר, כולל כתיבה יוצרת הכוללת סצנות אלימות, תרחישי משחקי תפקידים (Role Play) רומנטיים, ודיונים בנושאים שהיו עד כה "מחוץ לתחום" מחשש לפגיעה בקטינים.
המחיר: המודל מנתח את ההתנהגות שלכם
כדי לספק את החופש הזה למבוגרים, OpenAI צריכה להיות בטוחה ב-100% במי שעומד מולה. לשם כך, היא מפעילה מודל חיזוי שמנתח את ה"אופי" של החשבון. המערכת בודקת מתי אתם מתחברים, כמה זמן קיים החשבון, ובעיקר – על מה אתם מדברים ואיך אתם מתנסחים.
הנה כמה דוגמאות שנתן לנו הצ'אט:
למשל, ילד בן 8 ידבר בצורה מאוד פשוטה, עם הרבה התלהבות, שאלות סקרניות ושפה יומיומית. למשל, הוא יגיד: "היי, קיבלתי כלב חדש! אתה אוהב כלבים? איך מטפלים בו?"
לעומת זאת, אדם בן 25 ידבר בצורה יותר בוגרת, עם אוצר מילים עשיר יותר, וייתכן שידבר על תחומים מקצועיים או אישיים. משפט סגנון לדוגמה: "היי, אימצתי כלב חדש לאחרונה, ואני אשמח לקבל עצות לגבי הטיפול בו."
ולגיל 40, הסגנון יהיה עוד יותר בוגר, עם עומק, ניסיון והרהור. למשל: “שלום, אני רוצה לשתף אותך בכך שאימצתי כלב, ואני מעוניין בעצות לגבי טיפול והדרכה.”
בכל גיל, הסגנון משתנה בהתאם לרמת הניסיון, השפה וההבנה של הדובר.
אם האלגוריתם יחשוד שאתם בני נוער, הוא יכניס אתכם אוטומטית ל"ארגז החול" המוגן: חסימה של אלימות גרפית, חסימה של תכנים המעודדים דימוי גוף בעייתי וחסימה של תכנים רומנטיים. כדי לצאת משם ולקבל את חוויית המבוגרים המלאה, תצטרכו לעבור אקטיבית הליך אימות.
האם זיהוי גיל ב-ChatGPT יפגע בפרטיות שלי?
כאן קבור הכלב. משתמשים שיסווגו בטעות כקטינים (False Positive) ויחפשו גישה לתכנים למבוגרים, ידרשו לספק הוכחה חותכת. החברה תדרוש צילום סלפי שישלח לחברת אימות חיצונית (Persona) כדי לאשר את הגיל. המשמעות היא שמי שרוצה ליהנות מהיכולות המלאות והלא-מצונזרות של המודל, יצטרך לוותר על שכבת האנונימיות.
זמינות והשקה
המהלך מתחיל להתגלגל למשתמשים בתוכניות הצרכניות (Plus, Free, Team) ברחבי העולם כבר עכשיו. עם זאת, משתמשים באירופה יקבלו את העדכון הזה בעיכוב של מספר שבועות, ככל הנראה כדי לוודא שהפרופיל ההתנהגותי ש-OpenAI בונה עליהם עומד בתקנות ה-GDPR המחמירות.
עבור המשתמש הישראלי, המשמעות היא שאם פתאום ChatGPT מתחיל לסרב לבקשות שבעבר ביצע, ייתכן שהוא פשוט החליט שאתם צעירים מדי בשביל התוכן הזה – והדרך היחידה לשכנע אותו אחרת היא לחשוף את הפנים שלכם.
