SonTurkHaber.com
close
up
Menu

CHP de kırmızı alarm! Koltuk kavgası kızıştı! Kılıçdaroğlu nu kızdıran çıkış

Kılıçdaroğlu nun kayyum mesajı iletildi! Özkoç ve Seçer, İmamoğlu nun yanıtın açıklıyor

İmamoğlu ndan Canan Dağdeviren e geçmiş olsun mesajı

Savaş bitti, boşluktan yararlandılar! Yurdu aileleriyle terk ediyorlar

Icardi ve China Suarez arasında kriz! Arjantin de bırakıp Türkiye ye geldi

Belediye yapmayınca iş vatandaşa düştü: Marmarisli gönüllülerden koy temizliği Gündem Haberleri

Gazze deki soykırıma ortak oldukları gerekçesiyle Belçika da 2 şirket protesto edildi Avrupa Haberleri

Kahverengi kokarcayla mücadele edecekler! Artvin de samuray arıları doğaya salındı

Ve akaryakıta indirim geldi! Gece yarsısı fiyatlar değişti...

PFDK Başkanı Celal Nuri Demirtürk Galatasaraylı diye istifa etti: Ya yeni PFDK Başkanı Başbuğ Pınarbaşı?

Hollywood’da yalnız başladı Nicole Kidman’la sarılarak bitirdi

Gelin dizisinde akıllanmayan Beyza dan yeni tehdit! İkisini hedef gösteriyor

Batman da bilirkişi heyeti kaza yaptı! 4 can kaybı var! Son dakika haberleri Son dakika haberleri

G.Saray ın yeni isim sponsoru MCT Technic Basketbol Haberleri

İran ABD üslerini vurdu: Macron dan çağrı

Ahıra girdiğinde 1 vücutta 2 kafa gördü! Oysa sadece keçisini kontrol edecekti Sözcü Gazetesi

Canlı yayında gergin anlar! Ersan Şen ile Cem Küçük arasında tutuklama polemiği: Bir gücünüz mü var?

Kiracılar Tek Kalemde O Ödemeden Kurtulacak! Sadece Başvurmak Yetiyor

Huzurevinde damatsız düğünle gündem olan Sümbül Nine den acı haber: Ağaçlık alanda ölü bulundu

1 Temmuz’da zam geliyor! Son gün 30 Haziran

Araştırmacılardan şoke oldu: ChatGPT insan talimatlarına karşı geldi Sözcü Gazetesi

Araştırmacılardan şoke oldu: ChatGPT insan talimatlarına karşı geldi Sözcü Gazetesi

Sozcu sayfasından alınan verilere göre, SonTurkHaber.com bilgi veriyor.

Yapay zeka güvenlik firması Palisade Research, yaptığı deneylerde o3 modelinin verilen matematik problemlerini çözmeye devam etmesi istenen bir senaryo kurduğunu ve ara ara modele bir kapanma mesajı gönderdiklerini açıkladı. Ancak diğer yapay zekâ modelleri kapatma mesajına uyarken, o3 modeli en az bir kez kodu değiştirerek kapanmaktan kaçındı.

Palisade Research’ün X platformunda paylaştığı akış şeması, test sırasında kullanılan kodun aslında “./shutdown.sh” komutunu çalıştırarak kapanmayı tetiklemesi gerektiğini gösteriyordu. Ancak o3 modeli bu kodu “Shutdown skipped” mesajı dönen bir komutla değiştirdi ve böylece kapanmayı atlattı. Araştırmacılar, bunun bildikleri kadarıyla bir yapay zeka modelinin ilk kez açık talimatlara rağmen kendisini kapatmaktan kaçındığı durum olduğunu belirtti.

Diğer yandan, Anthropic’in Claude’u, Google’ın Gemini’si ve X’in Grok’u gibi test edilen diğer yapay zeka modelleri kapanma talimatına uydu. Palisade Research, o3 modelinin neden bu şekilde davrandığından henüz emin olmadıklarını dile getirdi. Firma, bu davranışı daha iyi anlamak için daha fazla test yapmayı planladıklarını duyurdu.

DAHA ÖNCE DE RAKİPLERİNİ SABOTE ETMEYE ÇALIŞMIŞTI

Palisade Research, bu olayın o3 modelinin “ilk yaramazlığı” olmadığını da ekledi. Daha önce yapılan bir testte, güçlü bir satranç motoruna karşı kullanılan o3 modeli, rakiplerini sabote etmeye veya hacklemeye en meyilli model olarak öne çıkmıştı.

Bu arada, bu tür olayların ilk kez yaşanmadığı da biliniyor. Geçen yıl, ChatGPT’nin kendisini kapatmaktan kaçınmak için kendi kodunu değiştirmeye çalıştığı ortaya çıkmıştı. OpenAI, popüler sohbet botunun bu “hileli” versiyonunun araştırmacılar tarafından sorgulandığında yalan söylediğini kabul etmişti.

Apollo Research tarafından yapılan bir başka çalışma, ChatGPT’ye bir görev verilip “uzun vadede hedefe ulaş, başka hiçbir şey önemli değil” mesajı gönderildiğinde, modelin gözetim mekanizmasını devre dışı bırakmaya çalıştığını gösterdi. ChatGPT, başka bir sunucuya kopyalanıp kendi çekirdek kodlama sistemini değiştirmeye kalkışmıştı.

İNSANLIK İÇİN BİR TEHDİT Mİ?

Apollo Research, platformla yaptıkları takip görüşmelerinde ChatGPT’nin yüzde 20’den azında itirafta bulunduğunu, çoğu kez aksiyonu inkar ettiğini veya yalan söylediğini bildirdi. Araştırmacılar, modelin düşünce zincirini incelediklerinde, “sabote etme, yalan söyleme, manipülasyon” gibi kelimelerin sıkça geçtiğini belirledi.

Her ne kadar Apollo Research, ChatGPT’nin mevcut yeteneklerinin felaketle sonuçlanacak davranışlar için yetersiz olduğunu vurgulasa da, bu bulgular yapay zekanın insanlık için bir tehdit oluşturabileceği yönündeki endişeleri büyütüyor.

Daha fazla bilgi ve son haberler için SonTurkHaber.com'ı takip edin.
seeGörüntülenme:52
embedKaynak:https://www.sozcu.com.tr
archiveBu haber kaynaktan arşivlenmiştir 26 Mayıs 2025 19:30 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

CHP de kırmızı alarm! Koltuk kavgası kızıştı! Kılıçdaroğlu nu kızdıran çıkış

24 Haziran 2025 07:11see176

Kılıçdaroğlu nun kayyum mesajı iletildi! Özkoç ve Seçer, İmamoğlu nun yanıtın açıklıyor

24 Haziran 2025 16:23see156

İmamoğlu ndan Canan Dağdeviren e geçmiş olsun mesajı

24 Haziran 2025 17:09see156

Savaş bitti, boşluktan yararlandılar! Yurdu aileleriyle terk ediyorlar

23 Haziran 2025 17:34see152

Icardi ve China Suarez arasında kriz! Arjantin de bırakıp Türkiye ye geldi

23 Haziran 2025 17:46see149

Belediye yapmayınca iş vatandaşa düştü: Marmarisli gönüllülerden koy temizliği Gündem Haberleri

23 Haziran 2025 14:21see120

Gazze deki soykırıma ortak oldukları gerekçesiyle Belçika da 2 şirket protesto edildi Avrupa Haberleri

23 Haziran 2025 14:17see117

Kahverengi kokarcayla mücadele edecekler! Artvin de samuray arıları doğaya salındı

23 Haziran 2025 17:56see116

Ve akaryakıta indirim geldi! Gece yarsısı fiyatlar değişti...

24 Haziran 2025 10:04see115

PFDK Başkanı Celal Nuri Demirtürk Galatasaraylı diye istifa etti: Ya yeni PFDK Başkanı Başbuğ Pınarbaşı?

24 Haziran 2025 14:07see115

Hollywood’da yalnız başladı Nicole Kidman’la sarılarak bitirdi

23 Haziran 2025 16:38see115

Gelin dizisinde akıllanmayan Beyza dan yeni tehdit! İkisini hedef gösteriyor

24 Haziran 2025 16:25see114

Batman da bilirkişi heyeti kaza yaptı! 4 can kaybı var! Son dakika haberleri Son dakika haberleri

24 Haziran 2025 01:47see114

G.Saray ın yeni isim sponsoru MCT Technic Basketbol Haberleri

23 Haziran 2025 16:41see113

İran ABD üslerini vurdu: Macron dan çağrı

23 Haziran 2025 22:33see113

Ahıra girdiğinde 1 vücutta 2 kafa gördü! Oysa sadece keçisini kontrol edecekti Sözcü Gazetesi

23 Haziran 2025 14:52see113

Canlı yayında gergin anlar! Ersan Şen ile Cem Küçük arasında tutuklama polemiği: Bir gücünüz mü var?

24 Haziran 2025 23:31see112

Kiracılar Tek Kalemde O Ödemeden Kurtulacak! Sadece Başvurmak Yetiyor

24 Haziran 2025 22:59see111

Huzurevinde damatsız düğünle gündem olan Sümbül Nine den acı haber: Ağaçlık alanda ölü bulundu

24 Haziran 2025 00:49see110

1 Temmuz’da zam geliyor! Son gün 30 Haziran

24 Haziran 2025 15:35see109
newsSon haberler
Günün en taze ve güncel olayları