אתיקה של בינה מלאכותית בשדה הקרב | הרצאה

מהפכת הבינה המלאכותית חלחלה בשנים האחרונות לכל רובד בחיינו, אך נדמה כי הזירה המורכבת והשנויה במחלוקת ביותר היא שדה הקרב המודרני. בעולם שבו מערכות נשק אוטונומיות הופכות ממדע בדיוני למציאות טקטית, האנושות ניצבת בפני צומת דרכים מוסרי חסר תקדים. השימוש באלגוריתמים לזיהוי מטרות, ניתוח נתונים בזמן אמת וקבלת החלטות הרסניות מעלה שאלות נוקבות על מהות המלחמה: האם ניתן להפקיד את ערך חיי האדם בידיו של קוד מחשב? ואולי חשוב מכך, מי נושא באחריות כאשר המכונה שוגה בחישוב ומבצעת פשע מלחמה – המתכנת, המפקד בשטח או שמא האלגוריתם עצמו? ההיסטוריה של הלוחמה תמיד לוותה בקפיצות טכנולוגיות, החל מהופעת אבק השריפה ועד לפצצת האטום, אך הבינה המלאכותית מציגה פרדיגמה חדשה: "אוטונומיה קטלנית". בניגוד לכלי נשק מסורתיים המופעלים מרחוק, מערכות AI מתקדמות מסוגלות לפעול ללא "אדם בחוג" (Human-in-the-loop), מה שיוצר פער משפטי ומוסרי המכונה בספרות המקצועית "פער האחריות". מומחים לאתיקה ומשפט בינלאומי מזהירים כי המהירות והיעילות של המכונות עלולות להוביל להסלמה בלתי נשלטת, שבה מלחמות פורצות ומסתיימות בקצב מהיר מכדי שהנהגה אנושית תוכל להכיל או לעצור. מעבר לשאלת ההרג, הטמעת הבינה המלאכותית בצבאות העולם מעלה סוגיות מורכבות של הטיות אלגוריתמיות וקריטריונים להבחנה בין לוחמים לאזרחים. במצבי לחימה בשטח בנוי, שבהם ההבדל בין מחבל לבין אזרח חף מפשע עשוי להיות ניואנס דק של התנהגות או לבוש, היכולת של בינה מלאכותית להפגין "שיקול דעת" מוסרי מוטלת בספק רב. מערכות אלו מוזנות בבסיסי נתונים שעלולים להכיל הטיות תרבותיות או גזעיות, מה שעלול להוביל לתוצאות קטלניות ומפלות המערערות את חוקי המלחמה הבינלאומיים שנוסחו באמנות ז'נבה. למרות הסיכונים, תומכי הטכנולוגיה טוענים כי בינה מלאכותית עשויה דווקא לצמצם את מספר הנפגעים הבלתי מעורבים בזכות דיוק כירורגי וחוסר המושפעות של המכונה מרגשות כמו פחד, נקמה או עייפות – גורמים המובילים פעמים רבות לטעויות אנוש טרגיות. הרצאה זו צוללת לעומקם של הטיעונים המרתקים הללו, בוחנת את המדיניות של המעצמות הגדולות במרוץ החימוש הדיגיטלי, ומנסה להבין האם אנו בדרך לעידן של "מלחמה נקייה" יותר, או שמא אנו פותחים תיבת פנדורה טכנולוגית שעלולה לשנות את פני האנושות לנצח.

תמלול הסרטון