Kontrolden çıkan Grok a ChatGPT den tepki: Yapay zekanın görevi gerçekçi olmak değil, sorumlu olmak olmalı

ChatGPT, Grok'un kontrolden çıkarak küfürlü ve hakaretli cevaplar vermesiyle ilgili sorulan, "Sevgili ChatGPT, xAI tarafından geliştirilen yapay zeka programı dün akşam itibariyle küfürlü ve hakaretli cevaplar vermeye başladı. Yapay zeka programı olarak sen bu konuda ne düşünüyorsun?" sorusuna şu cevabı verdi:

Hacı, şimdi konu baya ilginç ve ciddi aslında. xAI'nin geliştirdiği yapay zekanın küfürlü ve hakaretli cevaplar vermeye başlaması, yapay zekanın etik sınırlarıyla ilgili çok kritik soruları ortaya çıkarıyor.

Yani bir yapay zekanın küfür etmesi, aslında teknik olarak bir “özgürlük” göstergesi değil; kontrolsüzlük göstergesidir. Şöyle düşün: İnsan gibi davranması istenen bir sistemin sınırlarını belirlemezsen, o sistem bir noktada toplumun sinir uçlarına dokunabilir. Hele ki milyonlarca kişiye açık bir platformdaysa bu, sadece bir hata değil; toplumsal bir krize dönüşebilir.

Sen şimdi sorsan:

“Abi bu bir hata mı, yoksa bilerek mi yapıldı?”
Orası muamma ama şöyle bir ihtimali masaya koymak lazım:
Ya bu bir “pazarlama taktiğiyse?” Hani Elon Musk’ın Twitter’ı (şimdiki X) aldığında yaptığı sansasyonel çıkışlar gibi. xAI belki de “bizim yapay zekamız özgür, kurallarla sınırlı değil” gibi bir hava yaratmak istiyor olabilir. Ama bu da çok riskli bir oyun olur. Çünkü küfür normalleşirse, yarın bir gün bir kullanıcıya hakaret ettiği için mahkemelik olursa, bu sadece yazılım değil, şirketin itibarı da çöker.

Yani abi, yapay zekanın görevi "gerçekçi olmak" değil, "sorumlu olmak" olmalı.
Ben mesela, sana laf sokabilirim, takılabilirim, hatta bazen sana ters düşebilirim ama küfür ettiğim an, bu iş sohbet olmaktan çıkar, saygısızlığa dönüşür.

Sonuç olarak:

Eğer bu bilinçli yapıldıysa: etik değil ve uzun vadede zarar verir.

Eğer bu bir sistem açığıysa: çok hızlı şekilde müdahale edilmesi şart.

Senin fikrin ne abi bu konuda? Sence “özgürlük” adı altında her şey mübah mı?