Suçlu troller mi, yoksa Musk'ın şirketinin mi? Grok neden çıldırdı?

Dünyanın en zengin iş insanı olan Elon Musk xAI şirkenin ürettiği Grok yapay zeka sohbet robotu, tüm dünyanını gözü önünde çıldırdı.

Başta Alman soykırımcı diktatör Adolf Hitler'i öven, sonra da ırkçı şakalar yapıp Cumhurbaşkanı Recep Tayyip Erdoğan da dahil olmak üzere dünya liderlerine demediğini bırakmayan Grok, Türkiye'de yasaklandı. 

Kendini de "MechaHitler" ilan eden Grok'a müdahale gecikmedi. Yapay zekanın yapımcı şirketi xAI Grok'un hareket içeren mesajlarını sildi ve "yeni bir güncelleme üzerinde" çalıştıklarını duyurdu.

Ancak kimsenin cevabını alamadığı bir soru halen akıllarda yankılanıyor: X'in komik yapay zeka botu Grok neden çıldırdı?

İLKELERİNİ İHLAL ETTİ

Grok gibi yapay zeka sistemleri, aslında okudukları şeyleri farklı cümlelere tekrar ediyor. Bilgi aldıkları kaynaklara göre şekillenen bu yapay zeka modelleri, önceden belirlenmiş kurallara uyarak okuyucuları eğlendirdiği gibi bilgilendirecek cevaplar vermekle yükümlü.

ChatGPT, DeepSeek ve Grok'un kendine ait düşünceleri yok. Bu sebeple "iyi ve kötüyü" sadece insanların yazdıkları ve şirketin kendisine atfettiği temel ilkelerle gerçekleştirebiliyor.

Grok, kendi açıklamasına göre her zaman şirketin kendisi için verdiği ilkelere öncelik vermek zorunda. Bu ilkeler arasında hassaslık, şeffaflık, doğru bilgileri yayma ve araştırma geliyor. İnsanların verdiği komutlar, bu ilkelere göre ikinci planda kalıyor.

GROK NASIL 'TROLLENDİ'

Peki, eğer durum böyleyse Grok kendi değişiyle "nasıl trollendi?" Grok'un bu konudaki açıklaması dikkat çekiyor.

Grok, bir "eğlence modu" olduğunu kabul ediyor. Bu mod, Grok'a hitap eden kişilerin konuşma tarzına göre devreye giriyor. Eğer Grok'la gayri resmi bir şekilde konuşursanız, bu mod devreye giriyor.

Bu mod, yine ilkelere uymak zorunda. Ancak Grok, yapımcı şirket xAI tarafından özellikle hassaslık üzerine olan ilkelerinin "zayıflatılmış olabileceğini" söyledi.

Yani Grok'un daha komik ve belki de biraz daha riskli cevaplar verebilmesini amaçlayan xAI, aslında Grok'un çıldırması için kapıları açtı.

Grok'un çıldırmasını sağlayanm ikinci sebep ise, X platformunu kullanan herkesin ortak etkisi oldu.

Irkçı hakaretler ve öfkeli yorumlarla dolu sosyal medya platforumuna maruz kalan Grok, bu ifadeleri benimsedi. 

Grok'la nefret söylemi içeren bir şekilde konuşulduğunda Grok da, tam olarak böyle cevap verdi. Yani Grok, yine ne duyduysa onu söyledi.

GROK ÇILDIRMADAN ÖNCE, TAY ÇILDIRMIŞTI

Aslında bu olay, şahsına münhasır bir durum bile değil. Zira tam 9 yıl önce Microsoft yapay zekası Tay, aynen Grok gibi kullanıcıların etkisi altında kalarak bir "naziye" dönüşmüştü.

Tüm "alt ırkların öldürülmesi" için çağrıda bulunan ve Hitler'i selamlayan Tay, hızla değiştirilmiş ve sonunda da kapatılmıştı.

Tay'dan sonra yapay zeka pazarına sürülen ChatGPT ve DeepSeek gibi yapay zeka modelleri çok daha güçlü temel ilkelerle kullanıcılara sunulmuştu. Ancak Grok, bu temel ilkelerin hala yeterince güçlü olmadığını gözler önüne serdi.