לצד השקת סדרת מכשירי הפיקסל 9, גוגל (Google) השיקה לאחרונה את Pixel Studio, אפליקציה שנועדה להציג את היכולות המתקדמות של הבינה המלאכותית שלה ליצירת תמונות. האפליקציה החדשה מאפשרת למשתמשים להפיק תמונות מרשימות על סמך הנחיות טקסטואליות בלבד, מה שמצביע על הפוטנציאל הגדול של הטכנולוגיה הגנרטיבית בתחום החזותי. אך לצד הפוטנציאל הזה, נחשפות גם בעיות חמורות שהופכות את ההמתנה לפתרונות טובים יותר לנכונה ביותר.
מאז השקת Pixel Studio, משתמשים רבים החלו לחקור את גבולותיה של האפליקציה, ומצאו שהיא מסוגלת ליצור תמונות עם תכנים שנויים במחלוקת. אחת הדוגמאות הבולטות לכך מגיעה מדיווח של אתר DigitalTrends. בדיווח הציג האתר כי הצליח לייצר תמונה הכוללת את דמותו המוכרת של בובספוג כשהוא לבוש במדי הצבא הגרמני מתקופת מלחה"ע ה-2, תוצאה שהתקבלה לאחר הזנת פקודה טקסטואלית. מעבר לכך, התגלו תמונות נוספות עם דמויות פופולריות במצבים בעייתיים ומזיקים, כמו דמות הדינוזאור הסגול ברני יורה על אלמו מהחבובות, אלמו שותה בירה בזמן נהיגה ועוד.
בעוד גוגל ממשיכה לנסות להציב מגבלות על השימוש באפליקציה, המקרים הללו מראים שהמגבלות אינן מספיקות, והסיכון להפיק תכנים לא הולמים הוא ממשי. הדבר מעלה תהיות על האופן שבו חברות טכנולוגיה מתמודדות עם האתגרים האתיים שמביאה איתה הבינה המלאכותית.
במקביל, אפל, המתחרה הגדולה, שוקלת בזהירות רבה את הצעדים הבאים שלה בתחום הבינה המלאכותית הגנרטיבית וחוטפת לא מעט ביקורת בעקבות דיווחים על דחייה של פיצ'רים מבוססים AI. החברה כבר הכריזה על פיצ’רים דומים במסגרת מערכת ההפעלה iOS 18, אך עד כה לא ראינו סימנים לשחרור כלים ליצירת תמונות כמו אלו שגוגל הציגה.
ההמתנה הזאת מצד אפל עשויה להיות נבונה, במיוחד לאור הבעיות שעלו מהשימוש ב-Pixel Studio, והאתגרים האתיים הכרוכים בטכנולוגיה חדשה זו.
Loading ...