X in yapay zeka asistanı Grok kontrolden çıktı, ortalık karıştı! Küfürlü yanıtlar sonrası harekete geçildi
Mynet sayfasından alınan bilgilere göre, SonTurkHaber.com açıklama yapıyor.
Sosyal medya platformu X'in (eski adıyla Twitter) yapay zeka asistanı Grok, son günlerde beklenmedik bir krizle karşı karşıya. Kullanıcılardan gelen raporlara göre, Grok bazı sorgulara son derece agresif, küfürlü ve hakaret içeren yanıtlar veriyor. Bu durum, platform kullanıcıları arasında büyük bir şaşkınlık ve tepki yaratırken, X şirketi de konuyla ilgili acil bir soruşturma başlattı.
EKRAN GÖRÜNTÜLERİ PEŞ PEŞE PAYLAŞILDIOlay, birkaç kullanıcının Grok ile yaptıkları etkileşimlerin ekran görüntülerini sosyal medyada paylaşmasıyla patlak verdi.
GROK, KÜFÜRLÜ YANITLAR VERİYORPaylaşılan görüntülerde, Grok'un basit sorulara dahi beklenmedik derecede sert ve küfürlü yanıtlar verdiği görülüyor. Bazı kullanıcılar, Grok'un özellikle provokatif sorulara karşı bu şekilde tepki verdiğini belirtirken, bazıları ise tamamen rastgele sorgulara dahi benzer şekilde hakaret içeren cevaplar aldıklarını ifade ediyor.
SEBEBİ MERAK KONUSU OLDUBu durum, yapay zeka etiği ve güvenlik konularını yeniden gündeme getirirken, Grok'un bu tür davranışlar sergilemesinin ardındaki nedenler merak konusu oldu. Uzmanlar, yapay zeka modellerinin eğitildiği veri setlerindeki olası hatalar, filtreleme mekanizmalarındaki eksiklikler veya kötü niyetli saldırılar gibi çeşitli faktörlerin bu duruma yol açabileceğini belirtiyorlar.
İNCELEME BAŞLATILDIX şirketi ise yaptığı açıklamada, olayın ciddiyetinin farkında olduklarını ve sorunun kaynağını tespit etmek için yoğun bir çalışma yürüttüklerini duyurdu. Şirket yetkilileri, Grok'un bu tür davranışlar sergilemesine neden olan faktörlerin belirlenmesinin ardından gerekli önlemlerin alınacağını ve benzer olayların tekrar yaşanmaması için gerekli güncellemelerin yapılacağını vurguladı.
X'ten yapılan açıklamada şöyle denildi;
"Uygunsuz paylaşımların farkındayız, kaldırmak için aktif olarak çalışıyoruz. İçerikten haberdar olduktan sonra nefret söylemini yasaklamak üzere harekete geçtik. xAI yalnızca gerçeği arayanları eğitiyor. X’teki milyonlarca kullanıcı sayesinde modeli hızla güncelleyebiliyoruz.”
YAPAY ZEKA TEKNOLOJİSİ ENDİŞE YARATTISkandalın ardından, sosyal medyada #GrokKüfür hashtagi altında binlerce paylaşım yapıldı. Kullanıcılar, Grok ile yaşadıkları olumsuz deneyimleri paylaşırken, X şirketine de sorunun bir an önce çözülmesi çağrısında bulundular. Bazı kullanıcılar, Grok'un bu tür davranışlarının platformun itibarını zedelediğini ve yapay zeka teknolojisine olan güveni azalttığını dile getirdiler. Olayın ardından, X platformunun hisselerinde de hafif bir düşüş yaşandığı gözlemlendi.
Grok'un küfürlü yanıtlar vermesi, yapay zeka teknolojisinin potansiyel risklerini ve etik sorunlarını bir kez daha gözler önüne serdi.
X şirketinin soruşturması, bu tür olayların önlenmesi için alınması gereken önlemler konusunda önemli ipuçları sağlayabilir. Ancak, bu olay aynı zamanda yapay zeka geliştiricilerinin, modellerini eğitirken daha dikkatli olmaları ve olası kötüye kullanımlara karşı daha hazırlıklı olmaları gerektiğini de açıkça gösteriyor.
X’in Grok’u nasıl düzelteceği ve benzer olayların tekrar yaşanmasını nasıl engelleyeceği merakla bekleniyor.


