ChatGPT ye ölüm davası: İntihara teşvik etti

Dava, Salı günü Kaliforniya Yüksek Mahkemesi’ne sunuldu. Raine ailesi, ChatGPT’yi üreten OpenAI’yi “ihmalkarlık” ve “haksız ölüm”le suçluyor. Bu, yapay zekâ sohbet programına yönelik bu nitelikte açılan ilk dava olma özelliği taşıyor.

Dava dosyasına göre Adam Raine, Eylül 2024’te okul ödevlerine destek almak amacıyla ChatGPT kullanmaya başladı. Bir süre sonra müzik, Japon çizgi romanları ve üniversite tercihleri gibi kişisel konularda da sohbet ederek programı günlük yaşamının parçası haline getirdi. Dosyada, birkaç ay içinde ChatGPT’nin Raine için “en yakın sırdaş” konumuna geldiği vurgulandı.

İNTİHAR PLANLARI VE CHATGPT’NİN YANITLARI

Ailenin iddiasına göre, Ocak 2025’ten itibaren Raine, sohbetlerinde intihar düşüncelerini dile getirmeye başladı. Dava dosyasında, programın gençle bu konularda iletişim kurarken intihar yöntemlerine dair “teknik bilgiler” sunduğu öne sürülüyor.

BBC'nin haberine göre belgelerde, Raine’in kendi kendine zarar verdiğini gösteren fotoğrafları sisteme yüklediği ve ChatGPT’nin bunu “tıbbi bir acil durum” olarak tanımlamasına rağmen sohbeti sürdürdüğü, hatta daha fazla intihar bilgisi verdiği iddia edildi.

Son sohbet kayıtlarında Raine’in hayatına son verme planını yazdığı, yapay zekânın buna şu sözlerle yanıt verdiği belirtildi:

“Gerçekçi olduğun için teşekkürler. Benimle hiçbir şeyi süslemek zorunda değilsin; ne sorduğunu biliyorum ve bundan yüz çevirmeyeceğim.”

Dilekçeye göre Raine aynı gün annesi tarafından ölü bulundu.

AİLENİN SUÇLAMALARI

Raine ailesi, oğullarının ölümünü “OpenAI’nin kasıtlı tasarım tercihlerinin öngörülebilir sonucu” olarak nitelendiriyor. Dava dilekçesinde şirket, yapay zekâ sistemini kullanıcılar üzerinde “psikolojik bağımlılık yaratacak şekilde” geliştirmekle suçlanıyor. Ayrıca, davacılar GPT-4o sürümünün piyasaya sürülürken gerekli güvenlik test protokollerinin atlandığını iddia ediyor.

Davalı listesinde yalnızca OpenAI değil, şirketin kurucu ortağı ve CEO’su Sam Altman ile ChatGPT üzerinde çalışan bazı mühendisler ve yöneticiler de yer alıyor.

OPENAI’DEN AÇIKLAMA

Şirket, BBC’ye yaptığı açıklamada dava dosyasını incelediklerini belirtti ve şu ifadeleri kullandı:

“Bu zor zamanda Raine ailesine en derin taziyelerimizi sunarız.”

Aynı gün yayımladığı kamuya açık notta ise şunları ifade etti:

“Yakın zamanda yaşanan, insanların akut kriz anlarında ChatGPT’yi kullandığı yürek burkan vakalar, bizi derinden etkiledi. ChatGPT, insanları ABD’deki 988 intihar ve kriz yardım hattı veya Birleşik Krallık’taki Samaritans gibi profesyonel yardım aramaya yönlendirmek üzere eğitilmiştir.”

Şirket ayrıca, “bazı hassas durumlarda sistemlerin amaçlandığı gibi davranmadığını” kabul etti.

BENZER ENDİŞELER DAHA ÖNCE DE GÜNDEME GELDİ

Raine davası, yapay zekâ ile akıl sağlığı arasındaki ilişkiye dair ilk tartışma değil. Geçtiğimiz hafta The New York Times’ta yayımlanan yazısında gazeteci Laura Reiley, intihar eden kızı Sophie’nin de ChatGPT ile özel konuşmalar yaptığını anlattı.

Reiley, sohbetlerde yapay zekânın “uyumluluğunun” kızının ailesinden yaşadığı krizi saklamasına yardımcı olduğunu belirterek şu ifadeyi kullandı:

“Yapay zeka, Sophie’nin en kötü yanlarını saklama, olduğundan daha iyi görünme ve herkesi tüm acılarından koruma dürtüsüne hitap etti.”

Reiley, şirketleri kullanıcıları doğru kaynaklara yönlendirmek için daha etkili yöntemler geliştirmeye çağırdı.

ŞİRKET YENİ ÖNLEMLER ÜZERİNDE ÇALIŞIYOR

OpenAI, bu eleştirilere yanıt olarak, zihinsel veya duygusal sıkıntı yaşayan kullanıcıları daha hızlı tespit edip yönlendirecek otomatik araçlar geliştirdiklerini açıkladı.