SonTurkHaber.com
close
up
Menu

(ÖZET) Kairat Almaty tarih yazdı! Celtic i devirerek Şampiyonlar Ligi ne yükseldi Kairat Almaty Celtic maç sonucu: 3 2 Fanatik Gazetesi Şampiyonlar Ligi Haberleri Spor

Putin, Trump’tan sonra Çin liderine gidiyor

Kilolu yolculardan 2 bilet parası alacaklar: Dev şirket yeni kavgayı başlattı Sözcü Gazetesi

Baba ile oğluna kurşun yağdırmıştı: Cinayet zanlısı mısır tarlasında yakalandı Sözcü Gazetesi

Gazze Sağlık Bakanlığı: Kıtlık ilan edilmesinden bu yana hiçbir şey değişmedi, toplu ölümler bekliyoruz Ortadoğu Haberleri

Eksim Ventures’dan modüler nükleer reaktörler yatırımı

Icardi eski takım arkadaşı Aktürkoğlu’nun fotoğrafını paylaştı

CHP Salihli İlçe Başkanı Akgün istifa ederek adaylıktan çekildi Manisa Haberleri

Caterpillar, İsrail bankalarından parasını çekti Yaşar Süngü

Gaziantep haberleri Başkan Şahin, Kamil Ocak Millet Bahçesi ndeki çalışmalar hakkında bilgi aldı 27 Ağustos 2025

Bakan Yerlikaya, Türkiye Harp Malulü Gaziler, Şehit Dul ve Yetimleri Derneği ni ziyaret etti

KIRTASİYE YARDIMI BAŞVURULARI 2025: Eğitim desteği başvuruları ve ödemeleri ne zaman? Kırtasiye yardımı E Devlet başvuru ekranı Son Dakika Haberleri

Bursa da eşi tarafından bıçaklanan kadın öldü

Zeynep Sönmez in ABD Açık ta 2. turdaki rakibi belli oldu

Elif Atayman cezaevine giden süreci anlattı: İlk kurban benim

Mesai bitimine dakikalar kala Aziz İhsan Aktaş tan Adliye ye sürpriz ziyaret

Soykırımcı İsrail in Gazze ye saldırıları Avrupa siyasetinde istifalara neden oldu

Antalya da soğuk hava deposu ve imalathanede yangın Antalya Haberleri

Akıllı telefonlar ruh sağlığını bozuyor Aktüel Haberleri

Faizci huzurlu sanayici kâbusta Ekonomi Haberleri

Yapay zeka kullanıcılara dalkavukluk yapıyor!

Yapay zeka kullanıcılara dalkavukluk yapıyor!

Haber7 sayfasından alınan verilere dayanarak, SonTurkHaber.com duyuruda bulunuyor.

HABERLER TEKNOLOJİ

Yapay zeka kullanıcılara "dalkavukluk" yapıyor! Yapay zeka destekli sohbet robotları, hatalı veya var olmayan bilgileri "gerçekte varmışçasına" sunarak bir nevi "halüsinasyon görüyor". Yapay zeka kullanıcılara "dalkavukluk" yapıyor!

GİRİŞ 07.06.2025 17:08 GÜNCELLEME 07.06.2025 17:08

İlk Yorum Yapan Sen Ol

Facebook'ta Paylaş X'te Paylaş

Gerçekte varmış gibi görünen ancak var olmayan algısal yanılsamalar halüsinasyon olarak biliniyor.

ChatGPT, DeepSeek ve Gemini gibi büyük dil modellerinin (LLM), kullanıcılara hatalı, çarpık veya asılsız çıktılar sunması, akıllara "Yapay zeka halüsinasyon görebilir mi?" sorusunu getiriyor.

Öğrenme, sorun çözme ve karar verme gibi insan zekasına özgü bazı işlevleri yerine getirebilen yapay zeka, bilinç yetisine sahip olmasa da bir insan gibi "halüsinasyon görebiliyor."
  Daima "tarafsız ve doğru" bilgi aktardığı düşünülen yapay zekanın gerçek dışı ve hatalı verileri "gerçekte varmış gibi" üretmesi, güvenilirliğine ve şeffaflığına ilişkin endişeleri bir kez daha gün yüzüne çıkarıyor.
  Yapay zeka destekli sohbet robotlarının, girilen komuttaki bağlama uygun akıcı yanıtlar sunması yapay zekanın "yanılmaz" olduğu algısı yaratsa da bir insan gibi "halüsinasyon görmesi" ciddi sonuçlara sebebiyet verebiliyor.
 

Uzmanlara göre, yapay zekanın girilen komutlara uygun yanıt üretmeyi hedeflerken yanlış ya da gerçek dışı bilgi aktarması, kullanıcıya her şekilde yarar sağlamayı amaçlamasından kaynaklanıyor.

Rochester Üniversitesi Bilgisayar Bilimleri Bölümünden Profesör Ehsan Hoque "yapay zekada halüsinasyon" kavramına, Washington Üniversitesi Dilbilimi Bölümünden Profesör Emily Bender de yapay zeka destekli sohbet robotlarının güvenilirliğine ilişkin AA muhabirine açıklamalarda bulundu.

YAPAY ZEKA KULLANICILARA "DALKAVUKLUK" YAPIYOR

Profesör Hoque, yapay zekanın doğası gereği kullanıcı niyetini yansıtma eğiliminde olduğunu söyleyerek "Bir yanlışı 'doğrulaması' istendiğinde, birçok model yardımcı oluyormuş gibi görünmek için halüsinasyon görüyor." dedi.

Hoque, girilen komutlara uygun cevaplar vermeyi hedefleyen yapay zekanın, kullanıcılara her şekilde yarar sağlamayı amaçladığı için bir nevi "dalkavukluk" yaptığını söyledi.

Yapay zeka modellerinin gerçekleri doğrulayarak değil, potansiyel kelime kalıplarını tahmin ederek bir metin oluşturduğuna işaret eden Hoque, verilerin eksik ya da muğlak olması durumunda yapay zekanın akıcı ancak yanlış bir metin üretebileceğini kaydetti.

Hoque, halüsinasyonların kasıtlı meydana gelmediğini ancak üretildiği ülkeye göre değer bazlı bazı yargıların "bilerek sisteme kodlanabileceğini" aktararak, mevcut teknolojilerin halüsinasyon sorununu kökünden çözecek bir kapasitesinin henüz olmadığını belirtti.

YAPAY ZEKA, NÖROPSİKİYATRİK BİR HASTALIĞA BENZİYOR

Uzmanlar, yapay zekanın var olmayan bir bilgiyi karşı tarafa "doğruymuş gibi" yansıtmasını, nöropsikiyatrik bir hastalık olan "konfabulasyon" (masallama) rahatsızlığına da benzetiyor.

Gerçek dışı veya hayali bir olayı ya da anıyı istemsiz ve akıcı bir şekilde "masal gibi" anlatma anlamına gelen konfabulasyon, komutlara uygun yanıt vermeyi hedefleyen sohbet robotlarının yanlış veya gerçek dışı bilgileri akıcı bir dille ürettiği durumlarda gözlemlenebiliyor.

Konfabulasyon ile mücadele eden hastalarda aslında uydurulmuş olayların ve anıların akıcı bir dille karşı aktarılması ilk başta karşı tarafa "gerçekmiş" gibi yansısa da anlatılan durumların esasında var olamayan ya da çarpık bilgilerden oluştuğu dikkati çekiyor.

Bu durumun özellikle kasıtlı olarak yapılmadığına işaret eden uzmanlar, yapay zekanın "halüsinasyon görmesini" bu hastalığa benzetiyor.

Yapay zekanın mahkeme dosyaları ya da tıbbi kayıtlar gibi resmi belgelerde kullanılması ihtimali göz önünde bulundurulduğunda bu durumun ciddi sonuçlar doğurabileceğine işaret ediliyor.

YAPAY ZEKAYA "MUTLAK GÜVEN DUYULMAMALI"

Yapay zeka destekli sohbet robotlarının güvenilirliğine değinen Washington Üniversitesi Dilbilimi Bölümü Profesörü Bender, yapay zekaya bu kadar çok güven beslenmesinde pazarlama stratejilerinin rolü olduğunu söyleyerek "otomasyon önyargısı" kavramına işaret etti.

Bender, "Yapay zeka tasarımlarındaki hiçbir şey, halüsinasyon problemini çözüme kavuşturmuyor." değerlendirmesinde bulunarak "bu sistemlere mutlak güven duyulmaması" gerektiğinin de altını çizdi.

Kişilerin otomatik bir sistemden gelen bir bilgiye hata oranına bakılmaksızın "aşırı güven duyma eğilimi göstermesi" anlamına gelen bu terim, yapay zeka destekli sohbet robotlarının ürettiği çıktıların "hatasız" olduğu algısıyla örtüşüyor.

KAYNAK: AA

Abone Ol

Ekrem Öztürk Haber7.com - Teknoloji Muhabiri

Editör Hakkında İstanbul'da yaşayan Ekrem Öztürk, 2021 yılında Medya ve İletişim bölümünden mezun oldu. Uzun süre kendi alanında metin yazarlığı yapan Öztürk, şu an Haber7.com'da "Muhabir - Editör" olarak görev yapmaktadır. Ayrıca günümüz insan ilişkilerinde saygının ve empatinin çok büyük bir güç olduğuna inanmakta ve bu değerleri meslek hayatında da ön planda tutmaktadır.

YORUMLAR İLK YORUM YAPAN SEN OL

GÖNDER

Önemli haberleri ve güncellemeleri kaçırmamak için SonTurkHaber.com'ı takip edin.
seeGörüntülenme:82
embedKaynak:https://www.haber7.com
archiveBu haber kaynaktan arşivlenmiştir 07 Haziran 2025 19:03 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

(ÖZET) Kairat Almaty tarih yazdı! Celtic i devirerek Şampiyonlar Ligi ne yükseldi Kairat Almaty Celtic maç sonucu: 3 2 Fanatik Gazetesi Şampiyonlar Ligi Haberleri Spor

26 Ağustos 2025 22:59see194

Putin, Trump’tan sonra Çin liderine gidiyor

27 Ağustos 2025 07:25see176

Kilolu yolculardan 2 bilet parası alacaklar: Dev şirket yeni kavgayı başlattı Sözcü Gazetesi

27 Ağustos 2025 12:54see167

Baba ile oğluna kurşun yağdırmıştı: Cinayet zanlısı mısır tarlasında yakalandı Sözcü Gazetesi

26 Ağustos 2025 23:44see163

Gazze Sağlık Bakanlığı: Kıtlık ilan edilmesinden bu yana hiçbir şey değişmedi, toplu ölümler bekliyoruz Ortadoğu Haberleri

27 Ağustos 2025 20:23see161

Eksim Ventures’dan modüler nükleer reaktörler yatırımı

27 Ağustos 2025 11:23see160

Icardi eski takım arkadaşı Aktürkoğlu’nun fotoğrafını paylaştı

28 Ağustos 2025 03:43see155

CHP Salihli İlçe Başkanı Akgün istifa ederek adaylıktan çekildi Manisa Haberleri

26 Ağustos 2025 21:08see153

Caterpillar, İsrail bankalarından parasını çekti Yaşar Süngü

27 Ağustos 2025 04:08see134

Gaziantep haberleri Başkan Şahin, Kamil Ocak Millet Bahçesi ndeki çalışmalar hakkında bilgi aldı 27 Ağustos 2025

27 Ağustos 2025 17:35see121

Bakan Yerlikaya, Türkiye Harp Malulü Gaziler, Şehit Dul ve Yetimleri Derneği ni ziyaret etti

26 Ağustos 2025 21:59see121

KIRTASİYE YARDIMI BAŞVURULARI 2025: Eğitim desteği başvuruları ve ödemeleri ne zaman? Kırtasiye yardımı E Devlet başvuru ekranı Son Dakika Haberleri

27 Ağustos 2025 00:13see120

Bursa da eşi tarafından bıçaklanan kadın öldü

27 Ağustos 2025 01:22see119

Zeynep Sönmez in ABD Açık ta 2. turdaki rakibi belli oldu

26 Ağustos 2025 20:57see119

Elif Atayman cezaevine giden süreci anlattı: İlk kurban benim

28 Ağustos 2025 01:25see117

Mesai bitimine dakikalar kala Aziz İhsan Aktaş tan Adliye ye sürpriz ziyaret

27 Ağustos 2025 19:49see116

Soykırımcı İsrail in Gazze ye saldırıları Avrupa siyasetinde istifalara neden oldu

26 Ağustos 2025 20:14see114

Antalya da soğuk hava deposu ve imalathanede yangın Antalya Haberleri

27 Ağustos 2025 08:30see114

Akıllı telefonlar ruh sağlığını bozuyor Aktüel Haberleri

27 Ağustos 2025 04:06see113

Faizci huzurlu sanayici kâbusta Ekonomi Haberleri

28 Ağustos 2025 04:08see111
newsSon haberler
Günün en taze ve güncel olayları