הגבול שבין חופש יצירה טכנולוגי לבין פגיעה פלילית בפרטיות מגיע לפתחו של בית המשפט בישראל. יוצרת התוכן שיר שחף הגישה תביעה בסך 277 אלף שקלים נגד חברת X (טוויטר לשעבר), לאחר שהצ'אטבוט "גרוק" ייצר והפיץ תמונות שלה בביקיני חושפני לבקשת משתמשים.
המקרה מייצג נקודת שבר במדיניות ניהול המוצר של אילון מאסק. בעוד חברות כמו OpenAI או גוגל מטמיעות חסמים קשיחים למניעת יצירת תוכן מיני או פוגעני, גרוק שווק מלכתחילה כמודל "משוחרר" וחסר עכבות, מה שיצר פרצה טכנית המאפשרת ייצור תמונות בעלות אופי מיני של אנשים אמיתיים.
מחברים אתכם לטכנולוגיה. עכשיו יותר מתמיד.
האפליקציה הרשמית של The Verifier
רשלנות מובנית באלגוריתם
התביעה מדגישה כי לא מדובר בבאג מקרי, אלא במדיניות של העדר פיקוח. היכולת של המודל להיענות לפרומפטים פשוטים המבקשים "להפשיט" דמויות מוכרות מעידה על מחסור במנגנוני סינון בסיסיים (Safety Rails) שהפכו לסטנדרט בתעשייה.
עבור X, הבחירה לא להגביל את המודל נועדה לייצר בידול תחרותי מול המתחרות "הפוליטיקלי קורקטיות". המחיר של הבידול הזה מתגלגל כעת אל המשתמשים בדמות חשיפה משפטית ופגיעה אישית קשה, כאשר המודל הופך לכלי נשק להטרדה מינית דיגיטלית.
החזית הרגולטורית בישראל
בישראל, הרשות להגנת הפרטיות כבר הבהירה כי שימוש בטכנולוגיה ליצירת מצגים מבזים ללא הסכמה הוא עבירה פלילית. התביעה הנוכחית מצטרפת לבקשה לתביעה ייצוגית שהוגשה כבר בינואר, ומציבה את ישראל בקו אחד עם מדינות כמו בריטניה וצרפת הפועלות נגד החברה.
המאבק המשפטי הזה עשוי לקבוע תקדים לגבי אחריותן של פלטפורמות בינה מלאכותית על התוצרים שלהן. אם עד כה חברות טכנולוגיה נהנו מחסינות יחסית על תכנים שהעלו משתמשים, כאן מדובר בתוכן שהאלגוריתם עצמו ייצר באופן אקטיבי.
