Ölümcül yapay zeka: “Geleceğin silahları” tehlikesi nedir?

İnsanlık var olduğundan bu yana savaş halindedir. Başlangıçta çatışmalar ilkeldi. Eski insanların kabileleri toprak ve yiyecek için sopalarla ve taşlarla savaşıyordu.

Modern savaşlarda zaten insansız hava araçlarını, güdümlü füzeleri, elektronik harp sistemlerini ve diğer yüksek teknolojili silahları kullanıyoruz. Ancak bu sınır değildir.



Şu anda dünyanın en büyük onlarca askeri-endüstriyel kompleks şirketi, askeri görevleri insan müdahalesi olmadan yerine getirebilecek otonom sistemler üzerinde çalışıyor. Hayır, aynı isimli filmdeki Terminatör gibi antropomorfik robotlardan bahsetmiyoruz. Mühendisler gelecekte mevcut sistemlere uygulanacak ve bunların yönetimine insan katılımını ortadan kaldıracak bir yazılım algoritması oluşturmaya çalışıyorlar.

Örneğin günümüzde drone’lar silahlı çatışmalarda yaygın olarak kullanılmaktadır. Bu durumda, her bir drone bir operatör tarafından kontrol ediliyor ve savaş alanında belirli İHA yeteneklerinin kullanılmasına karar veren kişi de bu kişi oluyor.

Buna karşılık, yapay zeka tabanlı bir sistem, kendisine yüklenen potansiyel bir hedef hakkındaki verilere güvenmenin yanı sıra çevredeki durumu analiz ederek görevi özerk bir şekilde gerçekleştirebilir.

Harika geliyor. Bu arada, bazı ülkeler bu tür sistemleri birliklerine uygulamaya çoktan yaklaştı.

Geriye kalan tek soru, orduların böyle bir evriminin neye yol açacağıdır.

Yapay zeka tabanlı sistemlerin birçok avantajı olduğu açıktır. Özellikle otonom silahların kullanılması insan faktörünü tamamen ortadan kaldırıyor ve bu da çoğu zaman ilave sivil kayıplarına ve yıkımlara yol açıyor. Ayrıca robotik sistemler, çatışmalara doğrudan katılmak zorunda kalmayacak askeri personelin de hayatını kurtaracak.

Ancak “ölümcül yapay zekanın” da önemli dezavantajları var. Bunlardan biri, böyle bir sistemin bilgisayar korsanları tarafından saldırıya uğraması ve bunun en öngörülemeyen sonuçlara yol açması riskidir. Ayrıca otonom silahların seri üretimi kaçınılmaz olarak onları devlet dışı ve terör örgütlerinin kullanımına sunacaktır.

Şu anda BM, etik ve diğer nedenlerden dolayı bu tür silahların sınırlandırılması ve hatta yasaklanması olasılığını tartışıyor. Ancak süreç o kadar yavaş ilerliyor ki, yukarıda bahsedilen karar alınmadan önce bile dünyada birden fazla ordunun yapay zekalı silahlara sahip olması mümkün.