Yapay zekadan Pentagon'a şok 'ambargo': "Yapay zeka hayır derse ateş edemeyiz!"

Savaş meydanında "yazılım" skandalı patlak verdi! Pentagon’un en mahrem odalarında bugünlerde tek bir korku var: "Ya yapay zeka en kritik anda fişi çekerse?" Anthropic ve diğer teknoloji devlerinin, ordunun sistemlerine koyduğu "etik filtreler" Amerikan askerinin elini kolunu bağladı. İşte Silikon Vadisi’nin Pentagon’a kurduğu o teknolojik pusunun perde arkası...

"ALGORİTMA VETO EDERSE ATEŞ EDEMEYİZ!"

The Free Press’in ulaştığı raporlara göre, Anthropic gibi devlerin geliştirdiği yapay zeka modelleri (LLM), ordunun hedef belirleme sistemlerine entegre edildi. Ancak büyük bir sorun var: Şirketler, bu yazılımların içine "öldürücü güç kullanımına yardımcı olmama" kodları gömdü! Bu şu demek: Eğer yapay zeka bir hedefin vurulmasını "etik dışı" bulursa, askerin önündeki ekranı kilitleyebiliyor veya veri akışını kesebiliyor!

"SAVAŞI ŞİRKET YÖNETİM KURULLARI MI YÖNETECEK?"

Pentagon içindeki şahin kanat buna ses yükselti: "Bu bir milli güvenlik felaketidir!" ABD'li generaller ise buna itiraz ederek savaşın kurallarına yasalar ve anayasa karar verir; San Francisco’daki bir şirketin yönetim kurulu değil dedi.

AI Teknoloji devleri ise "Biz sadece ticari ürün satıyoruz, etik sorumluluğumuz var" diyerek savaşa dahil olmak istemediklerini açıkça belirtiyorlar.

İRAN OPERASYONUNDA SİSTEMLER YAVAŞLADI MI?

Sarsıcı iddia ise İran operasyonu sırasında kullanılan bazı yapay zeka sistemlerinin, sivil kayıp riski algıladığı anda "hata raporu" vererek kasıtlı olarak yavaşladığı öne sürülüyor. Bu "yazılım freni" yüzünden operasyonun hızı kesildi, Amerikan askerleri tehlikeye atıldığını iddia ettiler. 

PENTAGON’UN B PLANI: "ASKERİ ZEKA" (MIL-AI)

Silikon Vadisi'nin bu "etik" restine karşı Washington harekete geçti. Pentagon, ticari şirketlerden bağımsız, hiçbir "filtresi" olmayan tamamen askeri amaçlı kendi yapay zeka modelini kurmak için milyarlarca dolarlık bütçe ayırdı. Ancak bu dev sistemin kurulması yıllar alabilir. O zamana kadar ABD Ordusu, teknoloji devlerine mahkum.

KATİL Mİ OLSUN, VİCDANLI MI?

Şimdi asıl sorulması gereken o can yakıcı soru şu: Yapay zeka acımasız bir katile mi dönmeli, yoksa etik kuralları olan bir "vicdan" mı taşımalı?

Eğer Silikon Vadisi, kendi değer yargılarını ve ticari kaygılarını gözeterek bu kilitleri vurduysa; İranlı siviller için bu kuşkusuz hayati ve güzel bir haber. Ancak madalyonun öteki yüzünde, bu "etik kısıtlamalar" yüzünden sahada hedef haline gelen, operasyon kabiliyeti felç edilen Amerikalı askerlerin can güvenliği açısından bakıldığında ise onlar için pek de iyi değil gibi duruyor.

Düğmeye kim basacak?

İnsanlık için asıl korkutucu senaryo ise şu: Ya hiçbir etik kuralı olmayan, önüne çıkan her şeyi yok etmeye programlı bir yapay zeka savaş meydanlarına inerse o zaman ne olacak? Tüm bu gelişmeler bize gösteriyor ki; insan ve makine arasındaki o ince çizgide, "son kararı kimin vereceği" tartışması önümüzdeki yılların en büyük küresel kavgası olacak.

Bu haber; The Free Press (TFP) tarafından yayımlanan 'Anthropic Doesn’t Decide Our Military’s Rules of Engagement' başlıklı analiz, CBS News raporları ve Pentagon bütçe ofisinden sızan veriler baz alınarak hazırlanmıştır.