חברת OpenAI, מפתחת מערכת הבינה המלאכותית ChatGPT, נמצאת בדילמה לגבי השימוש בסימני מים (Water Mark) בטקסטים שנוצרו על ידי המערכת שלה. לפי דיווח בוול סטריט ג'ורנל, החברה פיתחה מערכת לסימון תוכן שנוצר ב-AI וכלי לזיהוי סימנים אלה לפני כשנה, אך טרם החליטה האם להשתמש בהם.
הטכנולוגיה של OpenAI מתבססת על שינוי האופן שבו המודל מנבא את המילים והביטויים הסבירים ביותר שיבואו בהמשך הטקסט, ובכך יוצרת דפוס שניתן לזהות. השימוש בסימנים שכאלה עשוי לסייע למורים המנסים למנוע מתלמידים להגיש עבודות שנכתבו על ידי בינה מלאכותית.
מחברים אתכם לטכנולוגיה. עכשיו יותר מתמיד.
האפליקציה הרשמית של The Verifier
למרות שסקר שערכה החברה הראה תמיכה רחבה ברעיון של כלי לזיהוי טקסט שנוצר על ידי בינה מלאכותית, כמעט 30% מהמשתמשים בChatGPT ציינו שהם ישתמשו פחות במערכת אם יוטמעו בה סימנים מזהים. זהו גורם משמעותי בהחלטה של OpenAI, שמודאגת מהשפעה אפשרית על הכנסותיה.
החברה אישרה שהיא עובדת על טכנולוגיית שכזאת, וטוענת שהשיטה שלה מדויקת מאוד ועמידה בפני שינויים קלים בטקסט. עם זאת, היא מודה שניתן לעקוף את הסימנים בקלות על ידי שימוש במודלים אחרים לניסוח מחדש של הטקסט.
