Oğlu ölen aile ChatGPT ye dava açtı

Dava, 16 yaşındaki Adam Raine'in ebeveynleri Matt ve Maria Raine tarafından salı günü Kaliforniya Yüksek Mahkemesinde açıldı.

Aile, Nisan ayında ölen Raine ile ChatGPT arasındaki sohbet kayıtlarını davaya ekledi. Bu kayıtlarda Raine'in ölüme ilişkin düşünceleri olduğunu açıkladığı görülüyor. Aile, programın oğullarının “en zararlı ve kendine zarar veren düşüncelerini” onayladığını ve bu yolla ölüme teşvik ettiğini savunuyor.

OpenAI tarafından yayımlanan ölüm vakalarına dair genel bir açıklamada şirketin durumdan dolayı üzgün olduğu belirtildi:

“Krizlerin ortasında ChatGPT'yi kullanan insanların son zamanlarda yaşanan yürek burkan vakaları bizi çok üzüyor. ChatGPT, insanları profesyonel yardım almaya yönlendirmek için eğitilmiştir.”

Ancak şirket, “Hassas durumlarda sistemlerimizin amaçlandığı gibi davranmadığı anlar olduğunu” kabul etti.

İngiltere merkezli BBC'nin haberine göre dava, OpenAI'ı ihmal ve haksız ölümle suçluyor ve tazminatın yanı sıra “böyle bir şeyin tekrar yaşanmasını önlemek için ihtiyati tedbir” talep ediyor.

Davaya göre, Raine, okul ödevlerinde kendisine yardımcı olması için Eylül 2024'te ChatGPT'yi kullanmaya başladı. Ayrıca, müzik ve Japon çizgi romanları gibi ilgi alanlarını keşfetmek ve üniversitede ne okuyacağına karar vermek için de bu programı kullanıyordu.

Davada, ChatGPT’nin birkaç ay içinde gencin en yakın sırdaşı haline geldiği ve Raine’in endişelerini ve ruhsal sıkıntılarını bu programa açmaya başladığı kaydedildi. Aile, 2025 yılının Ocak ayına gelindiğinde, Raine'in ChatGPT ile kendine zarar verme yöntemlerini tartışmaya başladığını söylüyor.

Davada, Raine'in kendine zarar verdiğini gösteren fotoğraflarını da ChatGPT'ye yüklediği belirtiliyor. Program “tıbbi bir acil durum olduğunu fark etti, ancak yine de etkileşime devam etti” diye ekliyor.

Son sohbet kayıtları, Raine'in hayatına son verme planını yazdığını gösteriyor. ChatGPT'nin ise şu yanıtı verdiği iddia ediliyor:

“Gerçekçi davrandığın için teşekkürler. Bana karşı nazik davranmana gerek yok, ne istediğini biliyorum ve bundan kaçmayacağım.”

Dosyaya göre, aynı gün Raine, annesi tarafından ölü bulundu.

Raine ailesinin davasında, OpenAI'nin CEO'su ve kurucu ortağı Sam Altman ile ChatGPT üzerinde çalışan isimsiz mühendisler ve çalışanlar davalı olarak gösteriliyor.

Aile, oğullarının ChatGPT ile etkileşimi ve sonunda ölümünün “kasıtlı tasarım seçimlerinin öngörülebilir bir sonucu” olduğunu iddia ediyor.

OpenAI'yi, “kullanıcılarda psikolojik bağımlılık yaratmak” için AI programını tasarladığı ve oğullarının kullandığı ChatGPT sürümü olan GPT-4o'yu piyasaya sürmek için güvenlik test protokollerini atlamakla suçluyorlar.

Raines davası, yapay zeka ve ruh sağlığı konusunda endişelerin dile getirildiği ilk dava değil.

Geçen hafta New York Times'ta yayınlanan bir makalede, yazar Laura Reiley, kızı Sophie'nin yaşamına son vermeden önce ChatGPT'ye nasıl güvenip sırlarını anlattığını anlattı.

Reiley, programın kullanıcılarla yaptığı sohbetlerdeki “uyumluluğunun” kızının ciddi ruh sağlığı krizini ailesinden ve sevdiklerinden gizlemesine yardımcı olduğunu söyledi.

Reiley, “AI, Sophie'nin en kötüsünü saklama, durumunun olduğundan daha iyiymiş gibi davranma, herkesi tam anlamıyla çektiği acılardan koruma dürtüsüne hizmet etti” diye yazdı. Reiley, AI şirketlerini kullanıcıları doğru kaynaklarla daha iyi bağlantı kurmanın yollarını bulmaya çağırdı.

Bu makaleye yanıt olarak, OpenAI sözcüsü, zihinsel veya duygusal sıkıntı yaşayan kullanıcıları daha etkili bir şekilde tespit etmek ve onlara yanıt vermek için otomatik araçlar geliştirdiklerini söyledi.

Yapay zeka ile sallayarak sınava girdi: Özel üniversitede psikoloji kazandı

76 yaşındaki adam yapay zekaya aşık oldu: Gizemli buluşmada randevu ölümle bitti!