סרטים וסדרות הוליוודיות כמו ״שליחות קטלנית״, ״בלייד ראנר״ ו״ווסטוורלד״ מזהירים אותנו כבר שנים מפני אינטליגנציה מלאכותית שתקום יום אחד להורגנו, אבל האנושות עדיין לא הכירה בזה כאיום ולמעשה רק ממשיכה לפתח אותה. אבל כעת יש ארגון שלוקח את זה ברצינות – חוקרים במשמר זכויות האדם, שהוא ארגון בינלאומי עצמאי למחקר, לקידום והגנה על זכויות האדם בעולם, מזהירים בשיא הרצינות מפני ״רובוטים רצחניים״ שעשויים להשמיד את העולם.
הדו״ח יצא כחלק מקמפיין של הארגון הקורא למעצמות העולם להחרים כל כלי נשק שהוא אוטונומי לחלוטין ומבוסס על אינטליגנציה מלאכותית. ״הסרה של יכולת השליטה האנושית בתפעול של כלי נשק נחשבת כעת לאיום חמור על האנושות ומצדיקה פעולה מקיפה״, כותבת מרי ווירהאם, מנהלת מחלקת כלי הנשק במשמר זכויות האדם.
במסגרת הדו״ח נבחנה מדיניות ההגנה של 97 מדינות שונות בעולם, בהן קיימת התייחסות ל״רובוטיקה קטלנית״, ונחשף כי גם במערכת המחוקקת של המדינות השונות יש אמונה כי התערבות אנושית היא חיונית לפיתוח מערכת נשק אתית. מזכ״ל האו״ם אנטוניו גוטרש אף התערב ואמר כי תוכניות מתקדמות לפיתוח מערכות כאלו הן ״דוחות מבחינה מוסרית ולא מקובלות מבחינה פוליטית״, ואפילו הפציר במדינות השונות לפעול כנגדן.
החוקרים מסבירים כי מערכות אוטונומיות כאלו למעשה ״יחליטו מי יחיה ומי ימות, ללא שום מאפיינים אנושיים כמו חמלה, אשר הכרחיים לביצוע החלטות אתיות מורכבות״. הארגון אף מזהיר כי לא יהיה ברור היכן תיפול האחריות בכל הנוגע לפשעי מלחמה לא חוקיים שיבוצעו על ידי מערכות הנשק האוטונומיות: האם אצל מפתחי התוכנה או מפקדי הצבא?
עד כה 30 מדינות שונות בעולם, בהן אוסטריה, ברזיל וצ׳ילה, הצטרפו לקריאת החרם על מערכות הנשק הללו, אך מדינות משמעותיות יותר בתחום כמו רוסיה וארה״ב, מתחמקות מהתחייבות כזו ובו בזמן משקיעות בצורה רצינית בפיתוח של מערכות נשק אוטונומיות משל עצמן.