חברת OpenAI, מפתחת מערכת הבינה המלאכותית ChatGPT, נמצאת בדילמה לגבי השימוש בסימני מים (Water Mark) בטקסטים שנוצרו על ידי המערכת שלה. לפי דיווח בוול סטריט ג'ורנל, החברה פיתחה מערכת לסימון תוכן שנוצר ב-AI וכלי לזיהוי סימנים אלה לפני כשנה, אך טרם החליטה האם להשתמש בהם.
הטכנולוגיה של OpenAI מתבססת על שינוי האופן שבו המודל מנבא את המילים והביטויים הסבירים ביותר שיבואו בהמשך הטקסט, ובכך יוצרת דפוס שניתן לזהות. השימוש בסימנים שכאלה עשוי לסייע למורים המנסים למנוע מתלמידים להגיש עבודות שנכתבו על ידי בינה מלאכותית.
למרות שסקר שערכה החברה הראה תמיכה רחבה ברעיון של כלי לזיהוי טקסט שנוצר על ידי בינה מלאכותית, כמעט 30% מהמשתמשים בChatGPT ציינו שהם ישתמשו פחות במערכת אם יוטמעו בה סימנים מזהים. זהו גורם משמעותי בהחלטה של OpenAI, שמודאגת מהשפעה אפשרית על הכנסותיה.
החברה אישרה שהיא עובדת על טכנולוגיית שכזאת, וטוענת שהשיטה שלה מדויקת מאוד ועמידה בפני שינויים קלים בטקסט. עם זאת, היא מודה שניתן לעקוף את הסימנים בקלות על ידי שימוש במודלים אחרים לניסוח מחדש של הטקסט.
Loading ...