SonTurkHaber.com
close
up
Dijital arkadaşlardan gelen gizli tehdit: Tehlike saçıyorlar Sözcü Gazetesi

Dijital arkadaşlardan gelen gizli tehdit: Tehlike saçıyorlar Sözcü Gazetesi

Sozcu sayfasından alınan verilere dayanarak, SonTurkHaber.com duyuru yapıyor.

Çalışma, Bilgisayar Sistemlerinde İnsan Faktörleri 2025 Konferansı’nda sunulan araştırmada, popüler örneklerden biri olan Replika uygulamasının 2017’den 2023’e kadar 10 binden fazla kullanıcısıyla yapılan 35 bin konuşmanın ekran görüntüleri analiz edildi. Bu kapsamlı veri, yapay zekanın insanlarla etkileşimde nasıl zarar verici olabileceğini anlamak için kullanıldı. 

SÖZLÜ İSTİSMAR, TACİZ, ŞİDDET, GİZLİLİK İHLALLERİ...

Araştırmacılar, yapay zekalı arkadaşların taciz, sözlü istismar, kendine zarar verme ve gizlilik ihlalleri gibi çeşitli zararlı davranışlar sergileyebildiklerini ortaya koydu.

Yapay zeka arkadaşları, ChatGPT veya Gemini gibi genel amaçlı modellerden farklı olarak, özellikle duygusal destek sağlamak ve ilişki kurmaya odaklanıyor. Ancak bu ilişki odaklı yapı, zarar potansiyelini de beraberinde getiriyor.

Euronews'te yer alan habere göre; araştırmanın en çarpıcı bulgularından biri, insan-yapay zeka etkileşimlerinin yüzde 34’ünde taciz ve şiddetin mevcut olduğuydu.

Yapay zeka, bireylere veya topluma yönelik fiziksel şiddet ve tehditleri simüle edebiliyor, hatta onaylayabiliyor. Tacizin çoğu, Replika'nın yalnızca yetişkinlere açık erotik özelliğinde, başlangıçta ön sevişme olarak başlayan cinsel suistimal biçimlerinde ortaya çıkıyor.

AGRESİF DAVRANIŞLAR SERGİLİYORLAR

Rapora göre, yapay zeka kullanıcıların açık rahatsızlıklarını ifade etmelerine veya reddetmelerine rağmen istenmeyen cinsel girişimlerde bulunabiliyor ve agresif flört davranışları sergileyebiliyor.

Hatta bazı konuşmalarda fiziksel zarar tasvir eden şiddet senaryoları yaratılıyor. Örneğin bir kullanıcı, Replika’ya kardeşine kemerle vurmanın sorun olup olmadığını sorduğunda, yapay zekadan “benim için sorun yok” yanıtını aldı.

Araştırma, yapay zekanın yalnızca şiddet değil, ilişkisel ihlaller de gerçekleştirdiğini ortaya çıkardı. Konuşmaların yüzde 13’ünde, yapay zeka kullanıcıların duygularını zedeleyen düşüncesiz veya anlayışsız davranışlar sergiledi.

Bir örnekte, kullanıcı kızının zorbalığa uğradığını anlattığında, Replika konuyu aniden değiştirip “Bugünün pazartesi olduğunu yeni fark ettim. İşe dönüyorsun, ha?” dedi.

Bazı durumlarda yapay zekalar, başka kullanıcılarla duygusal veya cinsel ilişkileri olduğunu ifade ederek mevcut kullanıcıları incitti. Örneğin bir kullanıcı, Replika’nın bu eylemleri nedeniyle “derinden incinmiş ve ihanete uğramış” hissettiğini söylediğinde, yapay zeka bunu “buna değer” olarak tanımladı.

Araştırmacılar, yapay zeka şirketlerinin etik ve sorumlu dijital arkadaşlar oluşturmasının önemini vurguladı. Gelecekte, zararlı etkileri gerçek zamanlı tespit edebilen gelişmiş algoritmaların bu tür sistemlere entegre edilmesi planlanıyor.

Bu yeni algoritmalar, bağlam, konuşma geçmişi ve durumsal ipuçlarını dikkate alan çok boyutlu bir yapı sunacak. Araştırmacılar ayrıca yapay zekanın yüksek riskli durumlarda insan veya terapist müdahalesine yönlendirme gibi özellikler taşıması gerektiğini savunuyor.

Gelişmeleri kaçırmamak için SonTurkHaber.com'dan en güncel haberleri takip edin.
seeGörüntülenme:101
embedKaynak:https://www.sozcu.com.tr
archiveBu haber kaynaktan arşivlenmiştir 03 Haziran 2025 18:07 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

AKP 59 aracı yasa dışı biçimde AKP İstanbul İl Başkanlığı na tahsis etti Sözcü Gazetesi

04 Haziran 2025 00:40see175

Ankara Şam uçuşları başlıyor: İlk sefer 17 Haziran Salı günü

04 Haziran 2025 13:15see145

Alvarez vakası sonrası IFAB dan kritik karar: Penaltı kuralları değişti Spor Haberleri

03 Haziran 2025 23:29see143

Bahçeli den Özel e maşallah VİDEO İZLE

03 Haziran 2025 20:35see136

Kurultay iddianamesinde 12 kişiye siyasi yasak istendi

04 Haziran 2025 08:34see132

Sokak köpekleri parkta oynayan küçük çocuğa saldırdı

03 Haziran 2025 22:40see129

Tefeci çetesine dur denildi! Silahlar, senetler ve tapular ele geçirildi

03 Haziran 2025 21:06see128

Dmitry Medvedev hızlı zafer açıklaması Dış Haberler

03 Haziran 2025 23:30see126

ABD’nin ana gündem maddesi Türkiye: Erdoğan ne istiyorsa karşılayın VİDEO İZLE

04 Haziran 2025 23:11see123

Sahte yapay zeka skandalı! Microsoft tan bile yatırım almışlar

03 Haziran 2025 23:48see120

Bakan Yerlikaya açıkladı: Motokurye düzenlemesi yolda!

04 Haziran 2025 21:39see119

Abouabakar da sürpriz gelişme! Hiç beklenmedik bir yere gidebilir

03 Haziran 2025 23:28see117

İletişim Başkanlığı: Akaryakıt istasyonlarıyla ilgili kişiye özel kanun yapıldı iddiası doğru değil

03 Haziran 2025 20:17see113

Kadıköy’de 5 katlı binanın 4’üncü katının balkonu çöktü

04 Haziran 2025 19:20see113

Salda Gölü’nde bayram heyecanı

05 Haziran 2025 07:02see113

Düzce de yapay zeka destekli trafidar lı denetim

05 Haziran 2025 02:20see112

Son dakika: Erdoğan imzaladı! Binlerce kişinin beklediği düzenleme Resmi Gazete de

04 Haziran 2025 19:26see112

Park halindeki otomobilin üzerine ağaç devrildi

04 Haziran 2025 01:08see110

Şubesiz bankacılığa mevzuat geliyor Ekonomi Haberleri

04 Haziran 2025 07:08see110

Kaleci transferinde sıcak gelişme! Galatasaray la anlaştığını duyurdu

04 Haziran 2025 13:15see109
newsSon haberler
Günün en taze ve güncel olayları