SonTurkHaber.com
close
up
Yapay zeka, var olmayan verileri gerçekte varmışçasına aktararak halüsinasyon görüyor

Yapay zeka, var olmayan verileri gerçekte varmışçasına aktararak halüsinasyon görüyor

SonTurkHaber.com, Trthaber kaynağından alınan verilere dayanarak haber yayımlıyor.

Gerçekte varmış gibi görünen ancak var olmayan algısal yanılsamalar halüsinasyon olarak biliniyor.

ChatGPT, DeepSeek ve Gemini gibi büyük dil modellerinin (LLM), kullanıcılara hatalı, çarpık veya asılsız çıktılar sunması, akıllara "Yapay zeka halüsinasyon görebilir mi?" sorusunu getiriyor.

Öğrenme, sorun çözme ve karar verme gibi insan zekasına özgü bazı işlevleri yerine getirebilen yapay zeka, bilinç yetisine sahip olmasa da bir insan gibi "halüsinasyon görebiliyor."

Daima "tarafsız ve doğru" bilgi aktardığı düşünülen yapay zekanın gerçek dışı ve hatalı verileri "gerçekte varmış gibi" üretmesi, güvenilirliğine ve şeffaflığına ilişkin endişeleri bir kez daha gün yüzüne çıkarıyor.

Yapay zeka destekli sohbet robotlarının, girilen komuttaki bağlama uygun akıcı yanıtlar sunması yapay zekanın "yanılmaz" olduğu algısı yaratsa da bir insan gibi "halüsinasyon görmesi" ciddi sonuçlara sebebiyet verebiliyor.

Uzmanlara göre, yapay zekanın girilen komutlara uygun yanıt üretmeyi hedeflerken yanlış ya da gerçek dışı bilgi aktarması, kullanıcıya her şekilde yarar sağlamayı amaçlamasından kaynaklanıyor.

Rochester Üniversitesi Bilgisayar Bilimleri Bölümünden Profesör Ehsan Hoque "yapay zekada halüsinasyon" kavramına, Washington Üniversitesi Dilbilimi Bölümünden Profesör Emily Bender de yapay zeka destekli sohbet robotlarının güvenilirliğine ilişkin AA muhabirine açıklamalarda bulundu.

Yapay zeka kullanıcılara "dalkavukluk" yapıyor

Profesör Hoque, yapay zekanın doğası gereği kullanıcı niyetini yansıtma eğiliminde olduğunu söyleyerek "Bir yanlışı 'doğrulaması' istendiğinde, birçok model yardımcı oluyormuş gibi görünmek için halüsinasyon görüyor." dedi.

Hoque, girilen komutlara uygun cevaplar vermeyi hedefleyen yapay zekanın, kullanıcılara her şekilde yarar sağlamayı amaçladığı için bir nevi "dalkavukluk" yaptığını söyledi.

Yapay zeka modellerinin gerçekleri doğrulayarak değil, potansiyel kelime kalıplarını tahmin ederek bir metin oluşturduğuna işaret eden Hoque, verilerin eksik ya da muğlak olması durumunda yapay zekanın akıcı ancak yanlış bir metin üretebileceğini kaydetti.

Hoque, halüsinasyonların kasıtlı meydana gelmediğini ancak üretildiği ülkeye göre değer bazlı bazı yargıların "bilerek sisteme kodlanabileceğini" aktararak, mevcut teknolojilerin halüsinasyon sorununu kökünden çözecek bir kapasitesinin henüz olmadığını belirtti.

Yapay zeka, nöropsikiyatrik bir hastalığa benziyor

Uzmanlar, yapay zekanın var olmayan bir bilgiyi karşı tarafa "doğruymuş gibi" yansıtmasını, nöropsikiyatrik bir hastalık olan "konfabulasyon" (masallama) rahatsızlığına da benzetiyor.

Gerçek dışı veya hayali bir olayı ya da anıyı istemsiz ve akıcı bir şekilde "masal gibi" anlatma anlamına gelen konfabulasyon, komutlara uygun yanıt vermeyi hedefleyen sohbet robotlarının yanlış veya gerçek dışı bilgileri akıcı bir dille ürettiği durumlarda gözlemlenebiliyor.

Konfabulasyon ile mücadele eden hastalarda aslında uydurulmuş olayların ve anıların akıcı bir dille karşı aktarılması ilk başta karşı tarafa "gerçekmiş" gibi yansısa da anlatılan durumların esasında var olamayan ya da çarpık bilgilerden oluştuğu dikkati çekiyor.

Bu durumun özellikle kasıtlı olarak yapılmadığına işaret eden uzmanlar, yapay zekanın "halüsinasyon görmesini" bu hastalığa benzetiyor.

Yapay zekanın mahkeme dosyaları ya da tıbbi kayıtlar gibi resmi belgelerde kullanılması ihtimali göz önünde bulundurulduğunda bu durumun ciddi sonuçlar doğurabileceğine işaret ediliyor.

Yapay zekaya "mutlak güven duyulmamalı"

Yapay zeka destekli sohbet robotlarının güvenilirliğine değinen Washington Üniversitesi Dilbilimi Bölümü Profesörü Bender, yapay zekaya bu kadar çok güven beslenmesinde pazarlama stratejilerinin rolü olduğunu söyleyerek "otomasyon önyargısı" kavramına işaret etti.

Bender, "Yapay zeka tasarımlarındaki hiçbir şey, halüsinasyon problemini çözüme kavuşturmuyor." değerlendirmesinde bulunarak "bu sistemlere mutlak güven duyulmaması" gerektiğinin de altını çizdi.

Kişilerin otomatik bir sistemden gelen bir bilgiye hata oranına bakılmaksızın "aşırı güven duyma eğilimi göstermesi" anlamına gelen bu terim, yapay zeka destekli sohbet robotlarının ürettiği çıktıların "hatasız" olduğu algısıyla örtüşüyor.

Önemli haberleri ve güncellemeleri kaçırmamak için SonTurkHaber.com'ı takip edin.
seeGörüntülenme:22
embedKaynak:https://www.trthaber.com
archiveBu haber kaynaktan arşivlenmiştir 06 Haziran 2025 11:35 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

Salda Gölü’nde bayram heyecanı

05 Haziran 2025 07:02see181

ABD’nin ana gündem maddesi Türkiye: Erdoğan ne istiyorsa karşılayın VİDEO İZLE

04 Haziran 2025 23:11see137

Düzce de yapay zeka destekli trafidar lı denetim

05 Haziran 2025 02:20see126

ABD, Gazze de acil ateşkes talep eden Birleşmiş Milletler Konseyi kararını veto etti

04 Haziran 2025 23:36see126

Diyarbakır SON DAKİKA yangın haberi: 13 katlı binada yangın çıktı, 17 kişi yaralandı, yaralılardan üçü öldü

05 Haziran 2025 20:58see123

Tarlada sondaj kuyusundan karbondioksit gazı çıktı

04 Haziran 2025 23:43see120

Diyarbakır da 13 katlı apartmanda korkutan yangın: Mahsur kalanlar var

05 Haziran 2025 20:11see118

Uluslar Ligi nde ilk finalist Portekiz Sözcü Gazetesi

05 Haziran 2025 00:09see117

100 yaşında kanseri yendi!

05 Haziran 2025 22:48see116

Kurban Bayramınız kutlu olsun

06 Haziran 2025 06:12see116

SOM, hedefi tam isabetle vurdu

06 Haziran 2025 14:39see115

Almanya Portekiz: 1 2 (MAÇ SONUCU) UEFA Uluslar Ligi nde Portekiz finalde Futbol Haberleri

05 Haziran 2025 00:09see114

Sabah namazı vakitleri 5 Haziran 2025: Arefe sabah namazı imsak vakti saat kaçta? Diyanet il il sabah namazı ezan saati Son Dakika Haberleri

04 Haziran 2025 23:44see114

Çanakkale de üç otomobilin karıştığı zincirleme kaza: Yaralılar var Çanakkale Haberleri

05 Haziran 2025 00:55see114

İstanbul için ilk toplantı yapıldı! 600 bin konut için gaza basılacak!

06 Haziran 2025 12:34see113

Oyuncu Eylem Tanrıver, estetik yaptırdı, felç oldu Magazin haberleri

05 Haziran 2025 22:14see111

Portekiz geri döndü, Uluslar Ligi nde ilk finalist oldu! Almanya...

05 Haziran 2025 00:14see111

Deyr Dibvan da İsrailli Saldırılar: 30 Yaralı

05 Haziran 2025 00:21see111

Siyasilerden bayram mesajı!

06 Haziran 2025 07:26see111

Osimhen transferinde yeni gelişme

05 Haziran 2025 13:47see110
newsSon haberler
Günün en taze ve güncel olayları