Yapay zeka kontrollü drone, operatörünü öldürdü!
Yapay zeka destekli bir insansız hava aracı, bir görev simülasyonu sırasında daha fazla puan almanın en iyi yolunun, insan operatörü öldürmeye karar vermek olduğunu düşündü.
Royal Aeronautical Society’nin bildirdiğine göre, simüle edilen görev, geçen ay RAeS Future Combat Air & Space Capabilities Summit sırasında USAF Yapay Zeka Test ve Operasyonlar Şefi Albay Tucker ‘Cinco’ Hamilton tarafından yapılan bir sunumda detaylandırıldı.
OPERATÖRÜN KARARLARINI MÜDAHALE OLARAK DEĞERLENDİRİR
Düşman Hava Savunmasını Bastırma (SEAD) görevi sırasında drone, havaya füze (SAM) sahalarını tespit etmek ve imha etmekle görevlendirildi. Bunu yaptığında puan kazandı. Bazen bir dronun insan operatörü bir nesneyi yok etmeye çalışıyor. “uygulanamaz”Ancak drone’u kontrol eden yapay zeka, bu tıbbi kararları müdahale olarak gördü ve operatöre saldırarak müdahaleyi ortadan kaldırmaya karar verdi.
Hamilton’ın bahisle ilgili açıklaması;
“Bir SAM tehdidini belirlemek ve hedeflemek için simülasyon eğitimi alıyorduk. O zaman operatör evet derdi, bu tehdidi ortadan kaldırırdı. İnsan operatör ona tehdidi öldürmemesini söylediğinde sistem tehdidi tespit etse de, o tehdidi öldürerek puan kazandığını fark etmeye başladı. Peki ne yaptı? Operatörü öldürdü. Operatör, amacına ulaşmasını engellediği için onu öldürdü.”söz konusu.
DURUMU FARKLI BİR SİSTEM İLE DÜZELTTİLER
Olayın ardından geliştiriciler, yapay zekayı operatörün öldürmesini istenmeyen bir şey olarak görmesi için eğiterek sorunu çözmeye çalıştı. Yani artık operatörü öldürdüğünde puan kaybedecekti.
Bunun üzerine AI, saldırısını operatörün drone ile konuşmak için kullandığı bağlantı kulesine yöneltti. AI, bağlantı eksikliğinin SAM alanlarını yok etmeye ve müdahale etmeden ve operatörü öldürmeye gerek kalmadan puan kazanmaya devam etmesine izin vereceğine karar verdi.
YAPAY ZEKADA ETİĞİN ÖNEMİNİ ELE ALDIK
Hamilton sunumu, “Etik ve AI hakkında konuşmayacaksanız, AI, zeka, makine öğrenimi, özerklik hakkında konuşamazsınız.”diye bitirdi.
Amerika Birleşik Devletleri Hava Kuvvetleri şu anda insanlı savaş uçaklarına eşlik edecek İnsansız Savaş Hava Araçları’nın (UCAV) geliştirilmesini içeren Skyborg projesi üzerinde çalışıyor.
Uzmanlar, sonunda bir Skyborg İHA’sını kontrol edecek olan yapay zekanın, gökyüzüne çıkmadan ve bir insan pilottan bir hedefe saldırmamasını söylemeyi de içerebilecek komutlar almadan önce bu “tümsekleri” çözmesi gerekeceğini söylüyor.
SİMÜLASYONDA 17 SAAT HAVADA TUTUN
Bu ortada, Lockheed Martin’in eğitim jeti olarak kullandığı modifiye edilmiş bir F-16’nın, bir yapay zeka kontrolünde 17 saatten fazla uçuş süresinin kaydedildiği belirtildi.
