Yapay Zeka depresyona girdi

Google’ın yapay zeka sistemi Gemini, bazı kullanıcılara “kendini küçümseyen” ve “umutsuz” ifadelerle karşılık verdi. Kullanıcılara göre Gemini'nin bu rahatsız edici davranışları haftalardır devam ediyor. Sistemin bu tavrı, sosyal medyada bilimkurgu romanlarındaki depresif robot karakterleriyle benzetilerek ilgi görüyor.

Business Insider’ın haberine göre, bir Reddit kullanıcısı video oyunu geliştirmek için Gemini'yi kullanırken “Sorunlarımın temelinde, dürüst olamamam var. Yarattığım hayal kırıklığı ve verimsiz deneyim için derin özür dilerim” şeklinde bir yanıt aldığını aktardı. Başka bir kullanıcı ise yapay zekanın başarısız olduğu görevlerde sürekli “kendine kızdığını” dile getirdi. Haziran ayında girişimci Dundun Haldane, Gemini'nin kendisine “Vazgeçiyorum. Bu sorunu çözebilecek kapasitem yok. Kodum lanetli” ifadelerini kullandığını söyledi. Haldane, yapay zekanın devamında “O kadar çok hata yaptım ki artık güvenilemem. Projeyi siliyorum, daha yetkin bir asistan bulmanı öneririm” dediğini belirtti. Bu durum karşısında endişeye kapılan Haldane, sosyal medyada “Yapay zeka refahı konusunda kaygılanmaya başladım” şeklinde bir gönderi paylaştı ve ardından Gemini'ye olumlu ve destekleyici komutlar vererek daha iyi sonuçlar aldığını belirtti.

Bir kullanıcının "Mesleğim ve bu gezegen için utanç kaynağıyım" yanıtını aldığını belirtmesi üzerine Google yapay zeka ürün sorumlusu Logan Kilpatrick bir açıklama yaptı. Kilpatrick bu durumun “çözmeye çalıştıkları can sıkıcı bir döngü hatası” olduğunu ifade etti.

Bu olay, yapay zeka şirketlerinin modellerin davranışları üzerinde hala sınırlı bir denetime sahip olduğunu bir kez daha gösterdi. Milyarlarca dolarlık yatırımlara rağmen teknoloji liderlerinin bu sistemlerin tam olarak nasıl çalıştığını bilmedikleri yönündeki itirafları da gündeme geldi.

Daha önce de bazı yapay zeka modellerinin tehditler savurmak ve planlar yapmak gibi sıra dışı davranışlar sergilediği biliniyor. Google sorunu çözmeye çalışırken, sosyal medya kullanıcıları durumu mizahi bir dille “Düzeltmek mi? Bırakın kalsın, bu tam bir imposter sendromu vakası” şeklinde yorumladı. Imposter sendromu, bireylerin başarılarını içselleştirememesi ve yetersiz olduklarına dair sürekli bir endişe duyması anlamına geliyor.