אפל יצרה מפלצת ועכשיו היא צריכה למצוא פתרון

חברת אפל (Apple) נתקלת בבעיה לא צפויה עם כלי ליצירת אימוג׳ים מותאמים אישית ה-Genmoji החדש שלה, כאשר משתמשים מצאו דרכים יצירתיות לעקוף את מנגנוני ההגנה של המערכת וליצור אימוג'י בעלי תוכן לא הולם. הכלי, שנמצא כעת בגרסת בטא כחלק מעדכון iOS 18.2, נועד לאפשר למשתמשים ליצור אימוג'י מותאמים אישית באמצעות תיאורים טקסטואליים פשוטים.

למרות שאפל הטמיעה מגבלות ואמצעי הגנה במערכת, משתמשים גילו במהירות פרצות ודרכים יצירתיות לעקוף אותן. לדוגמה, בעוד שבקשות ליצירת אימוג'י של "חציל" (aubergine) נחסמות, המערכת מאפשרת יצירת אותו אימוג'י כאשר משתמשים במילה "eggplant". משתמשים אף הצליחו ליצור אימוג'י של כלי נשק, סמים ותכנים מיניים מרומזים.

הבעיה הפכה לוויראלית ברשתות החברתיות, כאשר משתמשים משתפים את "יצירותיהם" ומפיצים טיפים כיצד לעקוף את ההגבלות. חלק מהמשתמשים אף גילו שניתן ליצור אימוג'י של דמויות ציבוריות ופוליטיקאים באמצעות יצירת אנשי קשר מזויפים עם תמונותיהם.

זו בדיוק הסיבה שאפל בחרה להשיק את הכלי תחילה בגרסת בטא. התקופה הארוכה יחסית עד להשקה הרשמית בדצמבר נועדה לאפשר לחברה לזהות ולחסום פרצות אלו. משתמשים רבים כבר מנבאים שאפל תהדק משמעותית את ההגבלות לפני ההשקה הרשמית.

הכלי מדגים את האתגרים העומדים בפני חברות טכנולוגיה בפיתוח כלי בינה מלאכותית פתוחים לציבור. מצד אחד, החברות רוצות לאפשר יצירתיות וחופש ביטוי, ומצד שני, עליהן להגן על משתמשים מפני תכנים פוגעניים ולא הולמים.

עוד לא ברור אם האימוג'י שנוצרו בגרסת הבטא יישארו שמישים לאחר ההשקה הרשמית, או עד כמה קפדניות יהיו ההגבלות הסופיות. Genmoji הוא חלק מחבילת תכונות בינה מלאכותית ה-Apple Intelligence חדשות שאפל מתכננת להשיק עם iOS 18.2, הכוללות גם את Image Playground ותכונות נוספות.