BM'nin acil koduyla gizlediği rapor sızdı: Robotlar kimin öleceğine karar vermeye başladı

Birleşmiş Milletler ve Uluslararası Kızılhaç Komitesi, bir zamanlar bilim kurgu senaryosu olarak görülen bir teknolojinin gerçeğe dönüşmesine karşı dünyayı uyardı. BM Genel Sekreteri António Guterres ve Uluslararası Kızılhaç Komitesi Başkanı Mirjana Spoljaric, insan müdahalesi olmadan hedef tespit edebilen, seçebilen ve saldırı gerçekleştirebilen otonom silah sistemlerinin yaygınlaşmasından önce harekete geçilmesi gerektiğini söyledi.

2 kuruluş, makinelerin bir insana saldırıp saldırmayacağına kendi başına karar vermesinin aşılmaması gereken "ahlaki bir kırmızı çizgi" olduğunu vurguladı. Guterres ve Spoljaric, askeri teknolojinin bu teknolojileri denetleyecek uluslararası kurallardan çok daha hızlı ilerlediğine dikkat çekerek, mümkün olan en kısa sürede yasal olarak bağlayıcı bir uluslararası anlaşma için müzakerelerin başlatılması çağrısında bulundu.

Kararı artık insan değil, algoritma verebilir

Otonom silahları diğer insansız sistemlerden ayıran temel nokta, silahın insan müdahalesi olmadan hedef seçebilmesi. Bu nedenle mesele yalnızca uzaktan kumandayla kullanılan insansız hava araçları veya bir operatörün verdiği her komuta bağlı çalışan robotlardan ibaret değil.

Bir sistem, görevlendirildikten sonra çevresini kendi sensörleriyle analiz ediyor ve önceden belirlenmiş özelliklere uyan hedefleri tespit edebiliyorsa, insan müdahalesi olmadan bu hedefe karşı güç kullanabiliyor.

Örneğin sistem bir silüeti, belirli bir hareketi, elektronik sinyali, aracı veya başka fiziksel özellikleri hedef olarak algılayabilir. Operatör silahı çalıştırmış olsa da hangi hedefin, nerede ve ne zaman vurulacağına ilişkin nihai kararın bir bölümünü makine verebilir.

Bu durum özellikle sivillerle savaşçıların aynı ortamda bulunduğu şehirlerde ve yoğun nüfuslu bölgelerde ciddi endişelere yol açıyor.

Makineler savaş alanındaki insan davranışını anlayamayabilir

Savaş alanında bir insanın davranışını doğru değerlendirmek her zaman yalnızca fiziksel özellikleri tanımaktan ibaret değil. Bir kişi silahını bırakabilir, ellerini kaldırarak teslim olabilir, yaralanabilir veya başka bir sivile yardım etmeye çalışabilir.

Bir algoritma bu hareketleri belirli bir davranış kalıbı olarak algılayabilir. Ancak hareketin hukuki ve insani anlamını aynı şekilde değerlendiremeyebilir.

Uluslararası insancıl hukuk ise savaş sırasında sivillerle savaşanların ayırt edilmesini, saldırıların orantılı olmasını ve aşırı risk ortaya çıktığında saldırının durdurulmasını gerektiriyor. Bu kararlar çoğu zaman saniyeler içinde değişen koşulların ve bağlamın değerlendirilmesini gerektiriyor.

Tam da bu nedenle, bir makinenin insan müdahalesi olmadan öldürücü güç kullanma yeteneği uluslararası hukuk açısından önemli bir tartışma konusu haline geliyor.

Bir hata olduğunda sorumlu kim olacak?

Otonom silahların yaygınlaşması yalnızca insani riskleri değil, sorumluluk sorununu da beraberinde getiriyor.

Bir sistem yanlış hedefi tespit ederek sivilleri öldürürse sorumluluğun kime ait olacağı net olmayabilir. Kararı veren komutan mı, sistemi kullanan ordu mu, yazılımı geliştiren şirket mi yoksa hedef tanıma sistemini tasarlayan mühendisler mi sorumlu tutulacak?

Kızılhaç, bu belirsizliklerin büyümeden giderilmesi gerektiğini savunuyor.

Kuruluşun önerdiği çerçevede iki temel yasak öne çıkıyor. Buna göre davranışları yeterince öngörülemeyen veya anlaşılmayan silah sistemlerinin kullanımının engellenmesi ve insanları doğrudan hedef almak üzere tasarlanan otonom silahların yasaklanması gerekiyor.

Bunun dışında kalan sistemlerin ise sıkı kurallara tabi tutulması öneriliyor. Bu kurallar arasında coğrafi ve zamansal sınırlar, açık biçimde tanımlanmış askeri hedefler, sivillerin bulunmadığı alanlarda kullanım, etkili insan gözetimi ve gerektiğinde silahın derhal durdurulmasını sağlayacak mekanizmalar bulunuyor.

Henüz özel ve bağlayıcı bir uluslararası anlaşma yok

Devletler, otonom silah sistemlerini 2014 yılından bu yana Birleşmiş Milletler'in Belirli Konvansiyonel Silahlar Sözleşmesi kapsamında tartışıyor. Ancak makinelerin insanları kendi başına hedef olarak seçmesini açık biçimde yasaklayan, bu alana özel ve yasal olarak bağlayıcı bir uluslararası anlaşma henüz bulunmuyor.

Mevcut uluslararası insancıl hukuk kuralları geçerliliğini koruyor. Ancak bazı ülkeler mevcut kuralların yeterli olduğunu savunurken, yeni ve bağlayıcı yükümlülükler getirilmesine karşı çıkıyor. Bu görüş ayrılığı, konu hakkındaki müzakerelerin yıllardır ilerlemesini zorlaştırıyor.

Bir sonraki kritik aşama ise 16-20 Kasım 2026'da Cenevre'de düzenlenmesi planlanan Belirli Konvansiyonel Silahlar Sözleşmesi'nin Yedinci Gözden Geçirme Konferansı olacak.

Kızılhaç, bu konferansın otonom silahlar konusunda somut ve bağlayıcı kurallar oluşturulması açısından önemli bir fırsat olduğunu düşünüyor. Kuruluş, kabul edilebilir olmayan otonom silahların geliştirilmesini önlemek için gerekli çerçevenin büyük ölçüde ortaya konduğunu ve müzakereye hazır ülke sayısının arttığını belirtiyor.

Teknoloji yaygınlaşmadan önce karar verilmesi gerekiyor

BM ve Kızılhaç'ın uyarısının temelinde zaman faktörü bulunuyor. Otonom silahlar seri üretime geçip farklı ülkelere ihraç edildikçe ve çok sayıda ordu tarafından kullanılmaya başladıkça, bunları sınırlandıracak kurallar üzerinde anlaşmak daha da zorlaşabilir.

Bu nedenle tartışmanın merkezindeki soru artık yalnızca makinelerin savaş alanında kullanılıp kullanılmayacağı değil.

Asıl soru, bir makinenin kendi değerlendirmesi sonucunda bir insanı hedef olarak belirlemesine ve öldürücü güç kullanmasına izin verilip verilmeyeceği.

Bir başka ifadeyle dünya, teknolojinin mümkün kıldığı bir sonraki adım konusunda karar vermek zorunda: Savaşta son ve geri dönüşü olmayan kararı bir insan mı verecek, yoksa kimin öleceğine bir makine mi karar verecek?