הדיווחים האחרונים והמסעירים חושפים כי קלוד של חברת אנתרופיק לקח חלק פעיל במבצע הצבאי של ארצות הברית ללכידת ניקולאס מאדורו. הפעולה המורכבת בוונצואלה כללה לפי הדיווחים הפצצות של מספר יעדים אסטרטגיים בבירה קרקאס ממש בחודש שעבר.
מדובר באירוע חריג שטורף את הקלפים בכל הנוגע לאתיקה בעמק הסיליקון שכן מדיניות החברה המפתחת אוסרת לחלוטין על שימוש בטכנולוגיה למטרות אלימות. נציגי החברה סירבו להתייחס ישירות לאירוע ורק ציינו כי כל הלקוחות מחויבים לתנאי השימוש הרשמיים. משרד ההגנה האמריקאי העדיף לשתוק ולא סיפק תגובה רשמית לפרסומים.
מחברים אתכם לטכנולוגיה. עכשיו יותר מתמיד.
האפליקציה הרשמית של The Verifier
הקשר הסודי של הפנטגון עם מערכות פלנטיר
כדי להבין איך הטכנולוגיה הגיעה לזירת הלחימה צריך להסתכל על שרשרת האספקה של הצבא האמריקאי. הגישה ליכולות המתקדמות לא נעשתה ישירות מול המפתחת אלא דרך הפלטפורמות של חברת פלנטיר. חברה זו נחשבת לקבלנית ביצוע מוכרת ומרכזית של משרד ההגנה וסוכנויות האכיפה הפדרליות. החיבור הזה איפשר לכוחות בשטח למנף יכולות עיבוד אדירות מבלי להיתקל במסנני האתיקה של המפתחים.
פלנטיר בחרה שלא לספק הסברים למעורבותה בפרשה הדרמטית הזו. חשוב להבין שזו למעשה הפעם הראשונה שמערכת בינה מלאכותית מסחרית מאושרת רשמית למבצעים מסווגים של הממשל. בנוסף ייתכן שכלים טכנולוגיים אחרים הופעלו שם למשימות בלתי מסווגות כמו סיכום נתוני מודיעין מהירים או שליטה ברחפנים אוטונומיים.
הדילמה בין החוזים הגדולים לערכי המוסר
הסיפור הזה חושף את המתח העצום שקיים כיום בתעשיית הטכנולוגיה סביב מעורבות ביטחונית. מצד אחד חוזי הענק הצבאיים מנפחים את שווי החברות ומעניקים להן את הלגיטימציה הממסדית שמשקיעים דורשים. מצד שני מנכ"ל אנת'רופיק, דריו אמודיי, מנסה לשמור על תדמית בטיחותית וקורא באופן עקבי לרגולציה מחמירה על התחום.
הניסיון לאזן בין הדברים גובה מחיר יקר ועובדים רבים נטשו לאחרונה את החברה בטענה שהרווח הכלכלי גובר על הבטיחות. הפנטגון ממש לא מתרשם מההתלבטויות המוסריות ודורש פתרונות טכנולוגיים שעובדים בשטח. שר ההגנה האמריקאי פיט הגסת' הבהיר לאחרונה באירוע של חברת xAI שהצבא לא ירכוש טכנולוגיה שתפריע לו להילחם ולנצח מלחמות.
האם קלוד של אנתרופיק יאבד את חוזה הענק הביטחוני?
התסבוכת האתית הנוכחית מאיימת כעת על עתיד ההתקשרות העסקית בין הפנטגון לחברת הבינה המלאכותית. הממשל בוחן את ביטולו האפשרי של חוזה בשווי מאתיים מיליון דולר שהוענק לחברה רק בקיץ האחרון. הפערים בין הדרישות המבצעיות של הצבא לבין חוקי הבטיחות הנוקשים סביב נשק אוטונומי ומעקבים נראים כרגע משמעותיים.
המצב החמיר על רקע עימותים מול ממשל טראמפ אשר מוביל גישה נטולת רגולציה. בכירים מאשימים את החברה בכך שהתעקשותה על מגבלות ייצוא שבבים ורגולציה פוגעת באסטרטגיה הלאומית הרחבה של הבית הלבן. אם החוזה יבוטל זה יהיה מסר ברור לכל התעשייה לגבי סדרי העדיפויות הביטחוניים של וושינגטון.
התחרות מול ענקיות הטכנולוגיה והזמינות בשטח
בזמן שאנתרופיק מתלבטת על ענייני מוסר עדינים, המתחרות הגדולות שלה חוטפות נתחי שוק ביטחוניים בקצב מסחרר. אמודיי ומייסדים נוספים הגיעו במקור מחברת OpenAI אשר לאחרונה חברה לגוגל (Google) לאספקת כלים דומים לצבא. המערכות המתחרות כבר משרתות כשלושה מיליון אנשי צבא אמריקאים למשימות מגוונות.
ההבטחה הרשמית היא שהכלים הללו משמשים רק לעבודת ניתוח מסמכים הפקת דוחות ותמיכה במחקר ולא לפעילות התקפית. עם זאת התקרית הנוכחית בקרקאס מראה שההבטחות האלו יכולות להישחק מהר מאוד בזמן אמת. צבא ארצות הברית ימשיך כנראה לרכוש את הכלים הכי מתקדמים בשוק ונשאר רק לראות מי תסכים למכור לו אותם תחת האילוצים.
