נשק אוטונומי קטלני

כלי נשק אוטונומיים קטלניים (באנגלית: Lethal autonomous weapons; הכינוי המקוצר LAWs או AWS) הם סוגי מערכות צבאית אוטונומיות שיכולות לחפש ולתקוף מטרות באופן עצמאי על סמך מערכת חוקים, אילוצים ותיאורים מתוכנתים (אלגוריתמים). מערכות הנשק האוטונומיות מוכרות בצבאות העולם בשמות מערכות נשק אוטונומיות קטלניות (Lethal Autonomous Weapon Systems-LAWS), או בשם מערכות נשק אוטונומיות (Autonomous Weapon Systems - AWS), שהם למעשה מערכות נשק רובוטי או רובוטים רוצחים. מערכות הנשק האוטונומיות עשויות לפעול באוויר, ביבשה, בים (מעל ומתחת למים) או בחלל. קיימת בעולם התנגדות למתן אוטונומיה מלאה למערכות נשק קטלניות שבכוחן להרוג בני אדם. נכון לשנת 2018 נעשה ניסיון לחבר אמנה להגבלת השימוש בנשק האוטונומי, במובן, שאת הפקודה האחרונה לתקוף ולפתוח באש ייתן אדם, מפעיל המערכת. אם כי ישנם מקרים יוצאים מן הכלל המיוחסים למערכות נשק "הגנתיות" הפותחות באש כנגד גורמים העוינים את סביבתן כגון כיפת ברזל, מעיל רוח, חץ דורבן ואחרים. זאת כדי לקצר את לוח הזמנים הקריטי של התגובה האנושית.

משמעות המושג נשק אוטונומי 
למילה "אוטונומי" יש משמעויות שונות בתחומים שונים. בהנדסת מכונות במלה אוטונומי מתייחסים ליכולת של המכונה לפעול ללא מעורבות אנושית. בפילוסופיה המשמעות להיות אוטונומי עשויה להתייחס לאדם שהוא עצמאי או חופשי מבחינה מוסרית. במדע המדינה המילה אוטונומי עשויה להתייחס ליכולת של אזור או מחוז להיות עצמאי מחוקי המדינה שלו ולהכתיב לעצמו חוקים משלו. מבחינת פיתוח מערכת נשק, ההתייחסות למערכת נשק כאוטונומית אינו ברור בהשוואה למקובל בתחומים האחרים. מאחר שאין תקן מוגדר ומוסכם למושג נשק אוטונומי. הוא יכול להשתנות מאוד בין המדינות והארגונים השונים.

ישנן הגדרות רבות למושג נשק אוטונומי קטלני. נכון לשנת 2018 המדיניות הרשמית של משרד ההגנה של ארצות הברית בנושא אוטונומיה במערכות נשק, מגדירה מערכת נשק אוטונומית כ"מערכת נשק שלאחר הפעלתה או דריכתה, היא יכולה לבחור ולתקוף מטרות ללא התערבות נוספת של מפעיל אנושי". הת'ר מ. רוף (Heather M. Roff), מבית הספר למשפטים של אוניברסיטת קייס וסטרן ריזרב , מגדירה מערכות נשק אוטונומיות כ"מערכות נשק חמושות, המסוגלות ללמוד ולהתאים את 'תפקודן בתגובה לנסיבות המשתנות בסביבה שבה הן פרוסות', כמו כן הן מסוגלות לקבל החלטות ירי בעצמם". הגדרה זו של מערכות נשק אוטונומיות היא ברף הגבוה בהשוואה להגדרות של חוקרים אחרים כמו פיטר אסארו ומארק גוברוד. לטענתם הגדרת נשק אוטונומי צריכה להיות: מערכת נשק הפועלת באופן חלקי או מלא ללא התערבות אנושית והיא לא חייבת להיות מסוגלת לקבל החלטות לגמרי לבד כדי להיקרא אוטונומית. בהגדרתם מספיק שמערכת הנשק תהיה מעורבת באופן פעיל בשלב אחד או מספר שלבים בתהליך השמדת המטרות. החל ברכישת המטרות  ועד לירי בסוף.

ארגונים אחרים, לעומת זאת, מציבים את הסטנדרט של מערכת הנשק האוטונומית ברף גבוה יותר. משרד ההגנה הבריטי מגדיר מערכות נשק אוטונומיות כ"מערכות נשק שמסוגלות להבין ולתפוס ברמה גבוהה את סביבתן ולהיות מסוגלות לנקוט בפעולה מתאימה כדי להביא לתוצאה הרצויה. הן צריכות להיות מסוגלות להחליט על דרך פעולה, מתוך מספר חלופות, ללא תלות בפיקוח ובקרה אנושיים.

כתוצאה מריבוי ההגדרות ובמטרה לכתוב אמנה בין המדינות יש צורך תחילה לקבוע מושגים מקובלים המגדירים מה הוא בדיוק נשק אוטונומי.

מערכות הגנה אוטונומיות 
הנשק האוטונומי הקטלני הישן ביותר הוא מוקש היבשה, שהיה בשימוש כבר במאה ה-16 והמוקשים הימיים, שהוכנסו לשימוש במאה ה-17. מוקשים נגד אדם נאסרים לשימוש במדינות רבות על פי אמנת אוטווה משנת 1997, לא כולל את ארצות הברית, רוסיה וחלק גדול ממדינות אסיה והמזרח התיכון.

דוגמאות (נכון לשנת 2018) של מערכות נשק אוטונומיות קטלניות הן מערכות הגנה אקטיביות אוטומטיות מסוג "hardkill", כגון מערכות CIWS  מונחות מכ"ם המשמשות להגנה על ספינות היו בשימוש מאז שנות ה-70 של המאה העשרים (למשל, ה-Phalanx CIWS האמריקאי). מערכות כאלה יכולות לזהות ולתקוף באופן אוטונומי טילים מתקרבים, רקטות, ירי ארטילרי, מטוסים וכלי שיט השטים על פני הים וזאת, על פי קריטריונים שנקבעו על ידי המפעיל האנושי. מערכות דומות קיימות עבור טנקים, כמו הארנה הרוסית, המעיל רוח הישראלי וה-AMAP-ADS  הגרמנית. בדרום קוריאה ובישראל נעשה שימוש במספר סוגים של רובי זקיף  נייחים כגון רואה-יורה, שיכולים לירות לעבר בני אדם וכלי רכב. למערכות רבות של הגנה מפני טילים, כמו כיפת ברזל, יש גם יכולות הכוונה אוטונומיות.

הסיבה העיקרית לכך שאין "אדם בלולאה" במערכות הגנה האקטיביות היא הצורך בתגובה המהירה.

מערכות נשק אוטונומיות התקפיות 

מערכות בעלות דרגת אוטונומיה גבוהה יותר נכללות במל"טים או כלי טיס קרביים בלתי מאוישים, כגון המל"ט הסילוני מסוג טאראניס BAE Systems Taranis  העשוי לשאת מערכת תקיפה אווירית מסוג Future Combat Air System . למל"טים יש את היכולה לחפש, לזהות ולאתר גופים עוינים באופן אוטונומי, אך תקיפת המטרה תעשה על פי פקודה המפורטת בפקודת המשימה. המל"ט יכול להגן על עצמו מפני מטוסי אויב (ראו קריאה נוספת - Heyns 2013, §45). מזל"ט מדגם Northrop Grumman X-47B יכול להמריא ולנחות על נושאות מטוסים (הודגם ב-2014).

לפי האקונומיסט, ככל שהטכנולוגיה מתקדמת, יישומים עתידיים של כלי שיט תת-ימיים בלתי מאוישים עשויים לכלול פינוי מוקשים, הנחת מוקשים, הנחת רשת חיישנים נגד צוללות במים שבמחלוקת, סיורים עם סונאר פעיל, אספקה מחדש של צוללות מאוישות. בשנת 2018, נטען כי רוסיה מפתחת "טורפדו חדש בין-יבשתי, בעל חמוש גרעיני, מונע בכוח גרעיני, אוטונומי תת-ימי" בשם "פוסידון".

רוסיה מפתחת באופן פעיל טילים בעלי בינה מלאכותית, מל"טים, כלי רכב בלתי מאוישים, רובוטים צבאיים ורובוטים להגשת עזרה רפואית. 

השר הישראלי איוב קרא הצהיר ב-2017 כי ישראל מפתחת רובוטים צבאיים, כולל רובוטים זעירים, בגודל זבוב.

באוקטובר 2018, בנאום של בכיר בחברת האבטחה הסינית Norinco, נאמר כי "בשטחי הקרבות העתידיים, לא יהיו אנשים שילחמו", וכי השימוש בנשק אוטונומי קטלני בלחימה, הוא "בִּלתִי נִמנַע". בשנת 2019, שר ההגנה האמריקאי מארק אספר יצא כנגד סין על מכירת רחפנים המסוגלים לפגוע בבני אדם ללא פיקוח אנושי. בשנת 2019 הצבא הבריטי פרס כלי רכב בלתי מאוישים ורובוטים צבאיים. הצי האמריקאי פתח את ציי "רוח רפאים" של ספינות בלתי מאוישות.

בשנת 2020 מזל"ט מסוג Kargu 2  איתר ותקף מטרה אנושית בלוב, על פי דו"ח של פאנל המומחים של מועצת הביטחון של האו"ם בנושא לוב, שפורסם במרץ 2021. ייתכן שזו הייתה הפעם הראשונה שרובוט אוטונומי חמוש תקף בני אדם.

סוגיות אתיות ומשפטיות

התקן האמריקאי לנשק אוטונומי 
המדיניות הנוכחית של ארצות הברית קובעת: "שמערכות נשק אוטונומיות... יעוצבו כדי לאפשר למפקדים ולמפעילים להפעיל רמות מתאימות של שיפוט אנושי בשימוש בכוח." עם זאת, המדיניות מחייבת שמערכות נשק אוטונומיות שהורגות בני אדם או המשתמשות בכוח קינטי, הבוחרות מטרות ללא התערבות אנושית נוספת, יהיו מאושרות ועומדות בתקנים ב"רמות המתאימות", במידה ולא מערכות נשק כאלה אסורות. רובוטים, ציידים-רוצחים "חצי אוטונומיים" המזהים ותוקפים מטרות באופן אוטונומי אינם נדרשים להסמכה. סגן שר ההגנה רוברט וורק אמר ב-2016 שמשרד ההגנה "לא יאציל סמכות קטלנית למכונה כדי לקבל החלטה", אך ייתכן שיהיה צורך לשקול זאת מחדש מכיוון ש"משטרים אוטוריטריים" עשויים לעשות שימוש בכלי נשק אוטונומיים. באוקטובר 2016 הנשיא ברק אובמה הצהיר בתחילת הקריירה שלו, שהוא חושש מעתיד שבו נשיא ארצות הברית יעשה שימוש בכלי נשק אוטונומיים כגון מזל"טים יוכל "לקיים מלחמות תמידיות בכל רחבי העולם, כשהרבה מהן סמויות, ללא כל דין וחשבון או דיון דמוקרטי". החל משנת 2018 בארצות הברית, הבינה המלאכותית הקשורה לביטחון הוכנסה לסמכותה של הוועדה לביטחון לאומי לבינה מלאכותית. ב-31 באוקטובר 2019, מועצת החדשנות הביטחונית של משרד ההגנה של ארצות הברית פרסמה את טיוטת הדו"ח המתאר חמישה עקרונות לשימוש בבינה מלאכותית בנשק ומציעה 12 המלצות לשימוש אתי בבינה מלאכותית על ידי משרד ההגנה שיבטיחו שמפעיל אנושי יוכל תמיד לבדוק את 'הקופסה השחורה' ולהבין את תהליך שרשרת ההריגה kill-chain.

הפרות אפשריות של אתיקה 
סטיוארט ראסל, פרופסור למדעי המחשב מאוניברסיטת קליפורניה בברקלי, הצהיר שהדאגה שיש לו מהשימוש במערכות נשק קטלניות אוטונומיות היא שהשימוש בהן הוא לא אתי ולא אנושי. הבעיה העיקרית שלו בשימוש במערכות הנשק האוטונומיות היא שקשה להן להבחין בין לוחמים לבלתי מעורבים.

כלכלנים וחוקרי משפט חוששים שמערכות הנשק האוטונומי יפרו את המשפט ההומניטארי הבינלאומי, במיוחד את עקרון ההבחנה, המחייב את היכולת להבחין בין לוחמים לבלתי מעורבים, ואת עקרון המידתיות, המחייב פגיעה פרופורציונלית באזרחים בשונה מפגיעה במטרות הצבאיות. חשש זה מוזכר לעיתים קרובות כסיבה לאסור כליל על השימוש ב"רובוטים רוצחים". יש המטילים ספק, אם חשש שכזה יכול להוות טיעון כנגד מערכות הנשק האוטונומיות שאינם מפרות את המשפט ההומניטארי הבינלאומי.

דו"ח משנת 2021 של שירות המחקר של הקונגרס האמריקני קובע כי "אין איסור משפטי מקומי או בינלאומי על פיתוח ושימוש במערכות נשק אוטונומיות", למרות ההתעסקות המתמשכת באמנת האו"ם, האמנה בדבר כלי נשק קונבנציונליים מסוימים (CCW).

יש אומרים שמערכות הנשק האוטונומיות מטשטשות את הגבולות שבו ניתן לקבוע מי אחראי להרג מסוים. הפילוסוף רוברט ספארו טוען שנשק אוטונומי הוא אחראי סיבתי אך לא מוסרי, בדומה לילדים המשחקים בחיילים או בשוטרים וגנבים. טענתו, שבכל אחד מהמקרים, שיש סיכון לזוועות שיתרחשו ללא גוף מתאים הנושא באחריות, יש הפרה של דיני מלחמה. תומאס סימפסון ווינסנט מולר טוענים שהם עשויים לותר על התיעוד של מי נתן איזו פקודה. במקרים בהם השימוש בנשק האוטונומי נעשה בשדה הקרב שבו ברור שלא נמצאים בו בלתי מעורבים כגון בחלל או בים הפתוח הרחק מכל חוף בו לא עשויים להיות אזרחים בלתי מעורבים.

קמפיינים לאיסור נשק אוטונומי 
האפשרות של שימוש במערכות נשק קטלניות אוטונומיות, עוררה ויכוח משמעותי, במיוחד לגבי הסיכון ב"רובוטים רוצחים" שיסתובבו על פני כדור הארץ, בעתיד הקרוב או הרחוק. הקבוצה Campaign to Stop Killer Robots  הוקמה ב-2013. ביולי 2015, למעלה מ-1,000 מומחים לבינה מלאכותית חתמו על מכתב המזהיר מפני האיום במרוץ חימוש של בינה מלאכותית  הקורא לאסור על השימוש בנשק אוטונומי. המכתב הוצג בבואנוס איירס בוועידה המשותפת הבינלאומית ה-24 בנושא בינה מלאכותית (IJCAI-15) ונחתם על ידי סטיבן הוקינג, אילון מאסק, סטיב ווזניאק, נועם חומסקי, מייסד שותף של סקייפ ג'אן טאלין ו-Google DeepMind.

לטענת ארגון PAX For Peace (אחד הארגונים המייסדים את הקמפיין לעצירת הרובוטים הרוצחים), כלי נשק אוטומטיים (FAWs) יגרמו לירידת סף היציאה למלחמה, ככל שהחיילים יורחקו משדה הקרב והציבור יורחק מלחוות מלחמה, דבר שייתן לפוליטיקאים ולמקבלי החלטות אחרים יותר מקום להחליט מתי וכיצד לצאת למלחמה. הארגון מזהיר שלאחר התפשטות, מערכות הנשק האוטונומיות נאבד את השליטה הדמוקרטית במלחמות.

קיימים אתרי מחאה אינטרנטיים כנגד התפתחות מערכות הנשק האוטונומיות המציגים את ההשלכות הבלתי רצויות שיגרמו אם יימשך המחקר על השימוש בבינה מלאכותית המיועדת לשימוש בכלי נשק. באתרים אלה, מתעדכנות חדשות על נושאים אתיים ומשפטיים על מנת שהמבקרים בהם יוכלו לקבל את העדכונים האחרונים אודות פגישות בינלאומיות ומאמרי מחקר הנוגעים למערכות הנשק האוטונומיות.

הכס הקדוש קרא לקהילה הבינלאומית לאסור שימוש במערכות נשק אוטונומיות במספר הזדמנויות. בנובמבר 2018, הארכיבישוף איבן יורקוביץ' , המשקיף הקבוע של הכס הקדוש לאומות המאוחדות, הצהיר ש"כדי למנוע את מרוץ החימוש והגברת אי השוויון וחוסר היציבות, לדבריו יש חובה הכרחית לפעול בהקדם: כי כעת הגיע הזמן לפעול כדי לעצור את מערכות הנשק האוטונומיות על מנת שלא יהפכו למציאות של המלחמות של מחר". הכנסייה חוששת שלמערכות הנשק הללו יש את היכולת לשנות באופן בלתי הפיך את אופי הלחימה, שתיצור מסוכנות אנושית שתעמיד בסימן שאלה את אנושיות החברות.

נכון ל-29 במרץ 2019, רוב הממשלות המיוצגות באו"ם, שהשתתפו בדיון בנושא מערכות נשק אוטונומיות, העדיפו לאסור את השימוש במערכות אלה. רק מעט ממשלות, הכוללות את אוסטרליה, ישראל, רוסיה, בריטניה וארצות הברית, התנגדו לאיסור. ארצות הברית אף הצהירה שהנשק האוטונומי סייע במניעת הרג אזרחים.

רגולציה במקום איסור 
גישה אחרת העוסקת במערכות הנשק האוטונומי, מתמקדת בהסדרת השימוש במערכות הנשק האוטונומיות במקום איסור השימוש בו. בקרת הנשק האוטונומי הכולל בינה מלאכותית, תדרוש ככל הנראה מיסוד של נורמות בינלאומיות חדשות המגולמות במפרטים טכניים יעילים תוך שילוב של יכולת ניטור אקטיבי ודיפלומטיה לא פורמלית על ידי קהילות מומחים, יחד עם תהליך אימות משפטי ופוליטי. בשנת 2021, משרד ההגנה של ארצות הברית ביקש לקיים דיאלוג עם הצבא הסיני אודות הנשק האוטונומי הנתמך בבינה מלאכותית אך נענה בסירוב.

ראו גם 
 בינה מלאכותית
 רובוט צבאי
 כלי טיס בלתי מאויש
 כלי שיט בלתי מאויש
 מחשוב אוטונומי
 מכונית אוטונומית
 גארדיום
 חימוש משוטט

לקריאה נוספת 
 Heyns, Christof (2013), ‘Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions’, UN General Assembly, Human Rights Council, 23 (3), A/HRC/23/47.
 Krishnan, Armin (2009), Killer robots: Legality and ethicality of autonomous weapons (Aldershot: Ashgate)
 Müller, Vincent C. (2016), ‘Autonomous killer robots are probably good news’, in Ezio Di Nucci and Filippo Santoni de Sio (eds.), Drones and responsibility: Legal, philosophical and socio-technical perspectives on the use of remotely controlled weapons, 67-81 (London: Ashgate).
 Stuart Russell's campaign against LAWs
 Sharkey, Noel E (2012), ‘Automating Warfare: lessons learned from the drones’, Journal of Law, Information & Science, 21 (2).
 Simpson, Thomas W and Müller, Vincent C. (2016), ‘Just war and robots’ killings’, The Philosophical Quarterly 66 (263), 302–22.
 Singer, Peter (2009), Wired for war: The robotics revolution and conflict in the 21st Century (New York: Penguin)
 US Department of Defense (2012), ‘Directive 3000.09, Autonomy in weapon systems’. <2014 Killer Robots Policy Paper Final.docx>.
 US Department of Defense (2013), ‘Unmanned Systems Integrated Road Map FY2013-2038’ 
 The Ethics of Autonomous Weapons Systems (2014) Seminar at UPenn

קישורים חיצוניים
 
 עיוני המשפט, אליאב ליבליך ואיל בנבנישתי, לוחמה רובוטית ובעיית הכבילה של שיקול הדעת, 2016
 
 
 
 
 
 
 
 
 
  
 ד"ר ראובן גל, השלכות נורמטיביות של הפעלת מערכות נשק אוטונומיות חמושות: אתגר בשדה הקרב העתידי, מתוך אתר "מערכות" 13/12/2022

הערות שוליים 

בינה מלאכותית
כלי רכב בלתי מאוישים
הגנה נגד טילים
כלי שיט בלתי מאוישים
כלי טיס בלתי מאוישים
טכנולוגיה צבאית
אמצעי לחימה ישראליים