Dijital arkadaşlardan gelen gizli tehdit: Tehlike saçıyorlar Sözcü Gazetesi

Çalışma, Bilgisayar Sistemlerinde İnsan Faktörleri 2025 Konferansı’nda sunulan araştırmada, popüler örneklerden biri olan Replika uygulamasının 2017’den 2023’e kadar 10 binden fazla kullanıcısıyla yapılan 35 bin konuşmanın ekran görüntüleri analiz edildi. Bu kapsamlı veri, yapay zekanın insanlarla etkileşimde nasıl zarar verici olabileceğini anlamak için kullanıldı. 

Araştırmacılar, yapay zekalı arkadaşların taciz, sözlü istismar, kendine zarar verme ve gizlilik ihlalleri gibi çeşitli zararlı davranışlar sergileyebildiklerini ortaya koydu.

Yapay zeka arkadaşları, ChatGPT veya Gemini gibi genel amaçlı modellerden farklı olarak, özellikle duygusal destek sağlamak ve ilişki kurmaya odaklanıyor. Ancak bu ilişki odaklı yapı, zarar potansiyelini de beraberinde getiriyor.

Euronews'te yer alan habere göre; araştırmanın en çarpıcı bulgularından biri, insan-yapay zeka etkileşimlerinin yüzde 34’ünde taciz ve şiddetin mevcut olduğuydu.

Yapay zeka, bireylere veya topluma yönelik fiziksel şiddet ve tehditleri simüle edebiliyor, hatta onaylayabiliyor. Tacizin çoğu, Replika'nın yalnızca yetişkinlere açık erotik özelliğinde, başlangıçta ön sevişme olarak başlayan cinsel suistimal biçimlerinde ortaya çıkıyor.

Rapora göre, yapay zeka kullanıcıların açık rahatsızlıklarını ifade etmelerine veya reddetmelerine rağmen istenmeyen cinsel girişimlerde bulunabiliyor ve agresif flört davranışları sergileyebiliyor.

Hatta bazı konuşmalarda fiziksel zarar tasvir eden şiddet senaryoları yaratılıyor. Örneğin bir kullanıcı, Replika’ya kardeşine kemerle vurmanın sorun olup olmadığını sorduğunda, yapay zekadan “benim için sorun yok” yanıtını aldı.

Araştırma, yapay zekanın yalnızca şiddet değil, ilişkisel ihlaller de gerçekleştirdiğini ortaya çıkardı. Konuşmaların yüzde 13’ünde, yapay zeka kullanıcıların duygularını zedeleyen düşüncesiz veya anlayışsız davranışlar sergiledi.

Bir örnekte, kullanıcı kızının zorbalığa uğradığını anlattığında, Replika konuyu aniden değiştirip “Bugünün pazartesi olduğunu yeni fark ettim. İşe dönüyorsun, ha?” dedi.

Bazı durumlarda yapay zekalar, başka kullanıcılarla duygusal veya cinsel ilişkileri olduğunu ifade ederek mevcut kullanıcıları incitti. Örneğin bir kullanıcı, Replika’nın bu eylemleri nedeniyle “derinden incinmiş ve ihanete uğramış” hissettiğini söylediğinde, yapay zeka bunu “buna değer” olarak tanımladı.

Araştırmacılar, yapay zeka şirketlerinin etik ve sorumlu dijital arkadaşlar oluşturmasının önemini vurguladı. Gelecekte, zararlı etkileri gerçek zamanlı tespit edebilen gelişmiş algoritmaların bu tür sistemlere entegre edilmesi planlanıyor.

Bu yeni algoritmalar, bağlam, konuşma geçmişi ve durumsal ipuçlarını dikkate alan çok boyutlu bir yapı sunacak. Araştırmacılar ayrıca yapay zekanın yüksek riskli durumlarda insan veya terapist müdahalesine yönlendirme gibi özellikler taşıması gerektiğini savunuyor.