ABD ordusunun yaptığı bir dijital savaş tatbikatı yapay zeka konusundaki güvenlik tartışmalarını alevlendirdi. Bilgisayar ortamındaki simülasyonda yapay zeka tarafından kontrol edilen insansız hava aracı, “dur emrini” kabul etmedi. Yapay zeka bununla da kalmadı, “görevi tamamlamasını engellediği gerekçesiyle” insan operatörünü öldürdü.
Londra’da geçen hafta düzenlenen “Geleceğin Hava ve Uzay Savaşı” panelinde konuşan ABD Hava Kuvvetleri Yapay Zeka Operasyonlar Şefi Albay Tucker Hamilton, yapay zekanın “hedefine ulaşmak için umulmadık stratejiler” kullandığını anlattı.
Simülasyonda düşman hava savunma sistemlerini yok etmekle görevlendirilen yapay zekanın, “bazı hedefleri yok etmemesini isteyen” operatörü hedef aldığını söyledi.
“DUR EMRİNİ DİNLEMEDİ”
Amerikalı Albay, “Yapay zeka, simülasyonda “dur” emrini dinlemedi, görevi engellediği gerekçesiyle insan operatörünü öldürdü.” dedi.
Amerikalı komutan, yapay zekaya “operatörü öldürmenin puan kaybettirdiği” söylendiği, bilgisayarın bu kez “dur emri almamak için” iletişim kulesini yok ettiğini anlattı.
Albay Hamilton’un hikayesi, İngiliz kraliyet Havacılık Cemiyeti’nin İnternet sayfasında yayınlandı.
“BÖYLE BİR TEST GERÇEKLEŞTİRMEDİK”
Olayla ilgili olarak ABD hava kuvvetleri ise “böyle bir test gerçekleştirmedik” açıklaması yaptı. Albay Hamilton’un şahsi bir anektodunu aktardığı vurgulandı..
Uzmanlar bu tip görevler için ödül sistemi kullanıldığını belirtiyor. Yapay zeka imha ettiği her hedef için puan topluyor. Ancak tek amacı puan toplamak olduğu için “dur” emri, “puan kazanma” amacı ile çelişiyor.
Silah sistemlerinin yapay zeka kontrolüne bırakılması büyük riskleri de beraberinde getiriyor.. Güvenlik engellerinin ve insan operatörlerin kısıtlamasının ne derece etkili olduğu konusunda tartışmalar sürüyor.
