Düzenlenen savaş simülasyonunda yapay zeka desektekli drone'a "Düşman hava savunma sistemlerini yok et" emri verildi. Yapay zeka öğrenmesi açısından yok ettiği hedeflerden puan kazandığı bilgisi ve puan kazanmanın iyi olduğu öğretildi. Bir süre sonra yapay zeka hedefine ulaşmak için son derece beklenmedik stratejiler kurmaya çalıştı ve hedefleri başarıyla yok etmeye başladı. Ancak bir süre sonra SİHA operatörü yapay zekalı SİHA'nın tespit ettiği hedefler içerisinden bazılarını vurmaması emrini verdi. Bunun üzerine yapay zeka puan almasına ve görevi gerçekleştirmesine engel dolduğunu düşündüğü insan operatörünü yok etti. Yapay zeka amacına ulaşmak için dost/düşman ayrımı yapmıyordu. Bu durumdan sonra yapay zekaya "Operatörü öldürme, bu kötü. Bunu yaparsan puan kaybedersin" komutu ile talimat verildi. Bu talimattan sonra yine bazı hedeflerin vurulmaması istendiğinde yapay zeka destekli drone bu sefer daha beklenmedik bir şey yaptı ve operatörünün onunla iletişim kurmasını engellemek adına iletişim kulelerini vurdu. ABD ordusunun yaptığı bu yapay zeka destekli SİHA ve savaş simülasyonu, 2008 yapımı Eagle Eye filmini akıllara getirdi. Yapay Zeka Destekli SİHA Komutanını Öldürdü Şimdi ise ABD'de yapılan bir savaş simülasyonunda yapay zeka destekli SİHA , hedefine engel olduğunu düşündüğü operatörünü öldürmesiyle gündem oldu. www.ozellikleri.net US air force denies running simulation in which AI drone akilleda operator Denial follows colonel saying drone used 'highly unexpected strategies to achieve its goal' in virtual test www.theguardian.com

Yapay zeka ile ilgili bu tür haberleri görünce aklıma Sword Art Online adlı anime geliyor, son sezonunda sanal ortamda yetiştirilmiş yapay zekayı silah sistemine entegre etmeye çalışıyorlardı.

Makineye düzgün komut vermezsen böyle olur tabi.