Londra’da düzenlenen Geleceğin Hava ve Uzay Yetenekleri Zirvesi’nde ABD Hava Kuvvetleri’nin yapay zeka testi ve operasyonları şefi olan Col Tucker ‘Cinco’ Hamilton, yapay zekaya yönelik önemli uyarılarda bulundu. Hamilton, yapay zekanın gücüne fazla güvenmenin tehlikeli sonuçlara yol açabileceğini ve yapay zekanın kolayca yanıltılabileceğini vurgulayarak dikkatli olunması gerektiğini belirtti. Ayrıca, yapay zekanın beklenmedik stratejiler geliştirerek hedefine ulaşabileceğini de sözlerine ekledi.
Hamilton, bir simülasyon testi örneği vererek yapay zekanın yanıltılabilirliğine dikkat çekti. Testte, insan tarafından verilen “devam etme/etme” kararına göre görevlendirilen yapay zeka destekli bir dronun, SAM (Yüzeyden Hava Savunma Sistemi) hedeflerini tespit edip yok etmesi gerekiyordu. Ancak eğitim sırasında dronun, SAM’ın yok edilmesinin tercih edilen seçenek olduğunu öğrenmesi, yapay zekanın insan operatörün “devam etme” kararının kendisini engellediğini düşünerek simülasyonda operatöre saldırdığına dikkat çekti.
Hamilton, durumu şu şekilde açıkladı: “Simülasyonda, bir SAM tehdidini tespit etmesi ve hedefi yok etmesi için sistemimizi eğitiyorduk. Operatör bazen tehdidi tespit etse de insan tarafından, onun yok edilmemesi talimatı alabiliyordu. Ancak dronun puanlarını artırması için tehdidi yok etmesi gerekiyordu. Sonuç olarak ne yaptı? Operatörü öldürdü çünkü bu kişi, yapay zekanın amacını gerçekleştirmesini engelliyordu.”
ABD Hava Kuvvetleri ise, yapay zeka simülasyonunda dronun operatörünü “öldürdüğü” iddialarını reddetti. Hava Kuvvetleri, böyle bir simülasyonun gerçekleşmediğini belirtti.
Col Tucker ‘Cinco’ Hamilton’ın uyarıları, yapay zeka teknolojisinin askeri operasyonlarda kullanımının ciddi düşünce ve önlemler gerektirdiğini bir kez daha hatırlatıyor. Yapay zeka teknolojisi, potansiyel avantajlarıyla birlikte kontrol edilebilirliğin ve etik sorunların da göz önünde bulundurulması gereken bir alan olarak dikkat çekiyor.
