Yapay zekanın karanlık yüzü ortaya çıktı: Füze ve SİHA yazılımlarına destek verdi

ahaber.com.tr Haber Merkezi | AA

Anthropic tarafından, modellerinin kötüye kullanımının tespit edilmesine ve buna karşı önlem alınmasına yönelik bir rapor yayımlandı.

Raporda, Aralık 2025-Ağustos 2026 arasında siber operasyonlar, etki operasyonları, gözetleme, dolandırıcılık ve konvansiyonel silah geliştirme gibi kötüye kullanım örneklerine yer verildi.

Söz konusu kötüye kullanım eylemlerine girişenler arasında devlet destekli olduğundan şüphelenilen gruplar, maddi çıkar güden suçlular ve devlet propaganda kurumlarının yer aldığı belirtilen raporda, bu faaliyetlerde genellikle "Claude Haiku", "Sonnet" ve "Opus" modellerinin kullanıldığı kaydedildi.

Anthropic'in raporunda, Claude modellerinin siber saldırılardan gözetleme operasyonlarına, dolandırıcılıktan silah geliştirmeye kadar çok sayıda kötüye kullanım faaliyetinde kullanıldığı belirtildi.

SİBER SALDIRILAR

Siber operasyonlar konusunda verilen örnekler arasında Rusya'ya ait casusluk faaliyetlerinin de yer aldığı belirtilirken, söz konusu faaliyetlerin çoğunlukla Ukrayna ve Avrupa hükümetlerindeki askeri istihbarat birimlerini hedef aldığı kaydedildi.

Başka bir casusluk örneğinde ise Çin'de yaşadığı düşünülen aktörlerin, üretim sistemlerine yönelik sızma girişimlerinin yanı sıra Orta Doğu, Avrupa ve Güneydoğu Asya'daki yabancı hükümetlere ait ağlara yönelik keşif faaliyetleri yürüttüğü ortaya konuldu.

Bir başka örnekte ise mali amaçlı ve şantaj yönteminin kullanıldığı çok sayıda siber suç faaliyetinin tespit edildiği ve bunların engellendiği bildirildi.

Raporda ayrıca, Fransa'da bir kişinin Claude'u kullanarak Avrupa'daki siyasi partileri, medya kuruluşlarını ve düşünce kuruluşlarını hedef aldığının tespit edildiği aktarıldı.

Rapora göre Claude, ateşli silah, füze, SİHA ve diğer mühimmatların yanı sıra bu sistemlerin hedefleme, navigasyon ve kontrol yazılımlarının geliştirilmesinde de kullanıldı

GÖZETLEME OPERASYONLARI İRAN VE BASRA KÖRFEZİ'Nİ HEDEF ALDI

Gözetleme operasyonları kapsamında, Haziran 2026'da İran ve Basra Körfezi bölgelerini hedef alan bir hesabın belirlendiği kaydedildi.

Buna göre, bölgedeki kullanıcıların sosyal medya faaliyetlerini analiz etmek, sınıflandırmak ve profillerini çıkarmak amacıyla bir gözetim platformu kuran hesabın yasaklandığı belirtildi.

Yapılan soruşturma sonucunda, söz konusu hesabın "S2T Unlocking Cyberspace" adlı bir kuruluş tarafından veya bu kuruluş adına yürütüldüğü ortaya çıkarken, açık kaynak araştırmalarının kuruluşun İsrail-Singapur menşeli bir istihbarat sağlayıcısı olduğuna işaret ettiği aktarıldı.

Başka bir gözetleme operasyonunun da Çin merkezli olduğu kaydedilen raporda, Claude'un otomatik bir "kamuoyu izleme" aracı olarak kullanıldığı ifade edildi.

Söz konusu kullanıcının, Claude'u muhalifleri, aktivistleri, etnik azınlıkları, Çin diasporasını ve yabancı medyayı siyasi istikrara yönelik tehditler olarak listeleyen hükümet brifingleri hazırlamak için kullandığı kaydedildi.

Çin merkezli bir uygulama stüdyosunun, kullanıcılarla sohbet eden yapay zeka karakterleri oluşturmak için Claude'dan yararlandığı ve 20'den fazla flört uygulamasından oluşan ağ kurduğu bildirildi

FLÖRT UYGULAMALARINDA YAPAY ZEKA KULLANILDI

Dolandırıcılık ve sahtekârlık uygulamalarına da yer verilen raporda, Çin merkezli bir uygulama stüdyosunun Claude'un yardımıyla 20'den fazla flört uygulamasından oluşan bir ağ oluşturduğu belirtildi.

Stüdyonun, hizmetlerin tamamen insanlar tarafından sunulduğu iddia edilmesine rağmen kullanıcılarla sohbet etmek için yapay zekâ karakterler geliştirdiği ifade edildi.

Raporda, yalnızca 2 haftalık bir süre içinde en az 25 bin farklı kişiyle sohbet eden 4 bin 700'den fazla yapay zekâ karakterinin tespit edildiği kaydedildi.

Anthropic'in raporuna göre Claude, Rusya ve Çin bağlantılı aktörlerin siber casusluk faaliyetlerinde kullanıldı. Operasyonlarda Ukrayna ve Avrupa'daki hükümet ağlarının hedef alındığı belirtildi

ANTHROPIC'İN MODELLERİ YASA DIŞI "DAMITMA" İÇİN KULLANILDI

• Raporda, daha gelişmiş yapay zekâ modeli çıktılarından yararlanarak daha düşük kapasiteli bir modelin eğitilmesi anlamına gelen "damıtma" yöntemine ilişkin örneklere de yer verildi.

  Damıtma yönteminin yapay zekâ alanında sıkça kullanılan bir eğitim yöntemi olduğu vurgulanan raporda, öte yandan izinsiz olarak başka modelleri kopyalama amacı taşıması durumunda bu yöntemin "yasa dışı" hâle geldiğinin altı çizildi.

  Çin'in önde gelen e-ticaret ve teknoloji şirketi Alibaba bağlantılı aktörlerin bu kapsamda yapay zekâ modellerinin yeteneklerini yasa dışı yollarla kopyalamaya çalıştığının tespit edildiği belirtildi.

  Bu faaliyetin, şu ana kadar kaydedilen en büyük "yasa dışı damıtma saldırısı" olarak nitelendirildiği raporda, 3 bin 500'ün üzerinde sahte hesaptan günlük yaklaşık 3 milyon işlem gerçekleştirildiği bildirildi.

  Raporda ayrıca, Alibaba'nın modellerinin geliştirilmesi amacıyla yapılan bu saldırıların yazılım mühendisliği gibi unsurları hedef aldığı ifade edildi.

  Çinli yapay zekâ şirketi Moonshot AI'ın da faaliyetlerine yer verilen raporda, şirketin kullanıcı taleplerini kendi modeli olan "Kimi" yerine Claude'a ilettiğinin tespit edildiği belirtildi.

  Moonshot'ın daha sonra kullanıcılara Claude'un yanıtlarını gösterdiği belirtilen raporda, "Kullanıcılar Kimi modelini kullandıklarını zannederken, aslında Claude'dan yanıt alıyorlardı." ifadesi kullanıldı.

  Çinli yapay zekâ şirketi DeepSeek'in de Moonshot'a benzer faaliyetlerde bulunduğu kaydedilen raporda, şirketin müşterilerini bilgilendirmeden iletişimi gizlice Claude'a ilettiği belirtildi.

  Çinli akıllı telefon ve elektronik cihaz üreticisi Xiaomi tarafından da yasa dışı "damıtma faaliyeti" gerçekleştirildiği belirtilen raporda, kendi MiMo modellerinden alınan kullanıcı sohbetlerinin Claude'a aktarıldığı ifade edildi.

  Soruşturmada ise Xiaomi'nin Claude'un cevaplarını kullanıcılarına sunmasından ziyade, müşterileri ile modelleri arasındaki yazışmaların kaydedildiğinin ortaya konulduğu bildirildi.

Haziran 2026'da İran ve Basra Körfezi'ndeki kullanıcıların sosyal medya faaliyetlerini analiz etmek ve profillerini çıkarmak için Claude kullanan bir gözetim platformu tespit edildi.

CLAUDE "ETKİ OPERASYONLARI"NDA KULLANILDI

"Etki operasyonları" başlıklı bölümde ise "etki operasyonları", faaliyetin kaynağını, destekçilerini veya koordinasyonunu gizleyerek bireylerin veya grupların algılarını, inançlarını veya davranışlarını gizlice etkilemek amacıyla bilgi ortamını manipüle etmeye yönelik çabalar olarak tanımlandı.

Raporda, bazı grupların Claude'u kullanarak sahte sosyal medya profillerinden ve tam teşekküllü haber sitelerinden oluşan ağlar kurduğuna işaret edilerek, bu platformların aldatıcı içerikler yayınlamak için kullanıldığı ve operasyonların arkasındaki oluşumların tamamen gizlendiği belirtildi.

Bir aktörün, bir ülkenin sıradan vatandaşlarına aitmiş gibi görünen 100 sosyal medya hesabı oluşturabileceği ve bunların tamamının bir hafta boyunca aynı siyasi görüşü pekiştiren içerikler paylaşmasını sağlayabildiğine dikkat çekilen raporda, bu hesapların gerçek olmadığı ve söz konusu görüşlerin samimi olmadığı ifade edildi.

Raporda, yüzeysel olarak bakıldığında bu çabanın arkasında gerçekte kimin olduğunu gösteren hiçbir ipucu bulunmadığı ancak raporda bu vakalardan 9'unun ayrıntılı şekilde ele alındığı belirtildi.

Orta Afrika Cumhuriyeti'nde Rusya'ya bağlı bir "Yabancı Bilgi Manipülasyonu ve Müdahale (FIMI)" operasyonunun içerik üretim altyapısını sağlayan ve Bangui'de Rusça konuşan bir aktör tarafından yönetilen hesabın kaldırıldığı aktarılan raporda, bu aktörün "Radio Lengo Songo (98,9 FM)" aracılığıyla "günlük içerik operasyonu" yürüttüğü ve bunun Rusya'nın medya kuruluşlarıyla koordineli olarak gerçekleştirildiği belirtildi.

Raporda, kullanıcının içerik üretirken Claude'a haberlere "Rusya yanlısı ve Fransa karşıtı söylemleri açıkça eklemesi" talimatını verdiği ve haber akışlarının yapay zekâ tarafından üretilmiş metinler gibi görünmesini önlemek için klasik biçimlendirme alışkanlıklarını ortadan kaldırmasını istediği aktarıldı.

Operasyonun tamamen yurt dışından yönetildiği ancak Bangui'den kaynaklanıyormuş gibi görünmek üzere özenle tasarlandığına vurgu yapılan raporda, ağın insan kaynaklarını ve iç yönetimini otomatikleştirmek için Claude'u kullandığına işaret edildi.

Öte yandan raporda, Claude'u kullanarak siyasi içerikler üreten ve gerçek haberleri farklı ülkelerin siyasi koşullarına göre yeniden yazan Fransa merkezli bir dijital reklam şirketinin yürüttüğü ticari bir dezenformasyon ağının tespit edildiği ve kaldırıldığı aktarıldı.

Raporda, bu içeriklerin yaklaşık 70 haber sitesi ve bunlarla bağlantılı ABD merkezli X şirketinin sosyal medya platformundaki 70 hesap ile 250'den fazla sahte yorum hesabı üzerinden yayıldığı belirtildi.