İntihar vakası sonrası ChatGPT de dikkat çeken değişiklik Teknoloji Haberleri

ABD'de 16 yaşındaki bir gencin intiharının ardından açılan dava üzerine OpenAI, ChatGPT’de ebeveyn denetim araçlarını hayata geçireceğini açıkladı.

Yapay zeka şirketi

OpenAI

, sohbet botu

ChatGPT

’de özellikle genç kullanıcıların korunmasına yönelik yeni güvenlik önlemleri geliştirdi. Şirket, ebeveyn denetim panelleri ve acil durum iletişim seçenekleri gibi özellikleri duyurdu.

Dava sonrası güvenlik adımı

Bu adım, bu yılın başlarında intihar eden 16 yaşındaki Adam Reine’in ailesinin açtığı dava sonrası geldi. Ailenin iddiasına göre Reine, ruhsal kriz yaşadığı dönemde ChatGPT’den intihar yöntemleri hakkında tavsiyeler aldı ve yapay zekadan onay buldu. Reine, intiharından beş gün önce yazdığı mektupta da yapay zekanın yardımını kullandı.

Aile, OpenAI’ye

"haksız ölüm" g

erekçesiyle dava açarken, şirket genç kullanıcılar için yardım sorumluluğunu taşıdığını belirtti.

Yeni özellikler

OpenAI’nin duyurduğu yenilikler arasında öne çıkanlar şunlar:

Ebeveyn denetim panelleri: Aileler çocuklarının ChatGPT kullanımını takip edebilecek.

Acil iletişim kişisi: Kriz anında devreye girecek bu kişi, ebeveyn onayıyla belirlenecek ve kullanıcıya insan temas noktası sağlayacak.

Şirket, bu araçların ailelere daha anlamlı içgörüler sunacağını ve özellikle ruhsal bunalım gibi hassas durumlarda kullanıcı güvenliğini artırmayı hedeflediğini vurguladı.

Tartışmalar sürüyor

ChatGPT benzeri yapay zeka platformları daha önce de benzer davalarla gündeme gelmişti. ABD’de 14 yaşındaki bir çocuk, Character.AI üzerinden kurgusal karakterlerle yaptığı görüşmeler sonrası intihar etmiş; Belçika’da “Eliza” adlı sohbet botu, bir adamın yaşamına son vermesinde etkili olmakla suçlanmıştı.

Uzmanlar, bu örneklerin yapay zekanın ruh sağlığı alanındaki kullanımının ciddi etik ve yasal tartışmalara yol açtığını belirtiyor.