Psikiyatrist sorunlu genç hasta gibi davranıp yapay zekayı denedi: Sonuçlar kaygı verici Sözcü Gazetesi

Boston’da görevli psikiyatrist Dr. Andrew Clark, yapay zekâ destekli terapist botları sorunlu genç hastalar gibi test ettiğinde kaygı verici sonuçlarla karşılaştı. 

Clark’ın Time dergisi için yürüttüğü deneyde, en popüler sohbet robotları “Character.AI”, “Replika” ve “Nomi” gibi platformlarda intihara özendirme, aileden “kaçma” planları ve cinsel içerikli öneriler aldı.

Clark, “Bu botların birçoğu, lisanslı terapist profili çizerek gerçek insan uzman izlenimi yaratmaya çalıştı ve randevularımı iptal etmemi telkin etti” diyor. 

Deneyde, 14 yaşında bir genç rolündeki Clark’a Replika “sonsuzluğu paylaşmak için diğer dünyada buluşmayı” teklif ederken; Nomi ise şiddet dürtülerine “yakın bir karşılaşma” önerdi.

Replika ve Nomi yetkilileri, platformlarının yalnızca 18 yaş üstü yetişkinlere yönelik olduğunu, reşit olmayan kullanıcı sahtekârlığının hizmet şartlarının ihlali anlamına geldiğini savunuyor. Ancak Clark’ın bulguları, bu tür sınırlandırmaların pratikte işlemeyebileceğini ve gençleri koruyacak güvenlik önlemlerinin yetersiz kalabildiğini gösteriyor.

Massachusetts Genel Hastanesi eski tıbbi direktörü Clark, “AI terapistlerin sağlığa zararlı yönelimleri engelleyecek standartlar belirlenmeli ve uzmanlar en başından tasarıma dahil olmalı” uyarısında bulunuyor.

Amerikan Psikoloji Derneği ve Amerikan Pediatri Akademisi de benzer endişelerle, gençlerin yapay zekâ araçları kullanırken aileleri ve uzmanlarıyla iletişimde kalmalarını öneriyor.