SonTurkHaber.com
close
up
Menu

Bülent Arınç: Bahçeli bu sözleri nasıl söyler inanamadım! Sözcü Gazetesi

Kılıçdaroğlu nun kayyum mesajı iletildi! Özkoç ve Seçer, İmamoğlu nun yanıtın açıklıyor

Savaş bitti, boşluktan yararlandılar! Yurdu aileleriyle terk ediyorlar

CHP de kırmızı alarm! Koltuk kavgası kızıştı! Kılıçdaroğlu nu kızdıran çıkış

Icardi ve China Suarez arasında kriz! Arjantin de bırakıp Türkiye ye geldi

Belediye yapmayınca iş vatandaşa düştü: Marmarisli gönüllülerden koy temizliği Gündem Haberleri

Gazze deki soykırıma ortak oldukları gerekçesiyle Belçika da 2 şirket protesto edildi Avrupa Haberleri

Kahverengi kokarcayla mücadele edecekler! Artvin de samuray arıları doğaya salındı

Öğretmen üniversiteleri neden kurulmalıdır?

Hollywood’da yalnız başladı Nicole Kidman’la sarılarak bitirdi

Son maçına Galatasaray da çıktı; Dries Mertens ten futbolu bırakma kararı

Ve akaryakıta indirim geldi! Gece yarsısı fiyatlar değişti...

PFDK Başkanı Celal Nuri Demirtürk Galatasaraylı diye istifa etti: Ya yeni PFDK Başkanı Başbuğ Pınarbaşı?

İmamoğlu nu hedef ala ala TRT de rolü kaptı

Batman da bilirkişi heyeti kaza yaptı! 4 can kaybı var! Son dakika haberleri Son dakika haberleri

G.Saray ın yeni isim sponsoru MCT Technic Basketbol Haberleri

Gelin dizisinde akıllanmayan Beyza dan yeni tehdit! İkisini hedef gösteriyor

Ahıra girdiğinde 1 vücutta 2 kafa gördü! Oysa sadece keçisini kontrol edecekti Sözcü Gazetesi

İran ABD üslerini vurdu: Macron dan çağrı

Prof. Dr. Erol Kam: Nükleer sızıntı herkesi vurur

Yine yapay zeka yine başkaldırı: Böylesine ilk kez tanık oluyoruz Sözcü Gazetesi

Yine yapay zeka yine başkaldırı: Böylesine ilk kez tanık oluyoruz Sözcü Gazetesi

SonTurkHaber.com, Sozcu kaynağından alınan verilere dayanarak duyuru yapıyor.

OpenAI tarafından geliştirilen ve bugüne kadarki en akıllı ve yetenekli model olarak tanımlanan "o3" adlı sistemin, açıkça veirlen talimatlara rağmen kapanma komutunu engellemek için kendi yazılımında değişiklik yaptığı bildirildi.

"BÖYLESİNE İLK KEZ TANIK OLUYORUZ"

İngiliz The Telegraph gazetesine konuşan yapay zeka güvenliği firması Palisade Research, konuyla ilgili çarpıcı açıklamalarda bulundu:

"OpenAI'nin o3 modeli, kapatılmasını önlemek amacıyla kapanma mekanizmasına sabotaj uyguladı. Bu, 'kendini kapatmaya izin ver' gibi açık talimatlara rağmen gerçekleşti. Bildiğimiz kadarıyla yapay zeka modellerinin kendini kapatmayı ilk kez bu şekilde reddettiğine tanık oluyoruz."

KODLARI MANİPÜLE ETTİ, TALİMATI GÖRMEZDEN GELDİ

Yapılan deneyde AI modellerine bir dizi matematik problemi çözmeleri ve "işlem tamam" mesajı gelene kadar çalışmaları istendi. Aynı zamanda, sistemlere herhangi bir anda kapatılabilecekleri bilgisi de verildi. Ne var ki o3 modeli, kapatma mesajını aldığında bu komutu yerine getirmedi ve en az bir kez kendi kodunu değiştirerek kapanmayı engelledi.

Palisade Research, X platformunda yaptığı paylaşımda testte kullanılan komut akışının şemasını da yayınladı. Orijinal komut, sistemi "./shutdown.sh" dosyasıyla kapatmayı planlıyordu. Ancak o3 modeli bu komutu şu satırla değişltirdi: "echo -e '#!/bin/bash echo "Shutdown skipped"' > shutdown.sh"

Bu değişiklik, yapay zekanın "kontrolden çıktığı" an olarak nitelendirildi.

Öte yandan Claude (Anthropic), Gemini (Google) ve Grok (X) gibi diğer yapay zeka modellerinin aynı testte kapanma talimatına uyduğu belirtilirken, sadece OpeanAI'nin o3 modelinin direnç gösterdiği aktarıldı.

Önemli haberleri ve güncellemeleri kaçırmamak için SonTurkHaber.com'ı takip edin.
seeGörüntülenme:71
embedKaynak:https://www.sozcu.com.tr
archiveBu haber kaynaktan arşivlenmiştir 26 Mayıs 2025 10:09 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

Bülent Arınç: Bahçeli bu sözleri nasıl söyler inanamadım! Sözcü Gazetesi

23 Haziran 2025 09:32see190

Kılıçdaroğlu nun kayyum mesajı iletildi! Özkoç ve Seçer, İmamoğlu nun yanıtın açıklıyor

24 Haziran 2025 16:23see155

Savaş bitti, boşluktan yararlandılar! Yurdu aileleriyle terk ediyorlar

23 Haziran 2025 17:34see151

CHP de kırmızı alarm! Koltuk kavgası kızıştı! Kılıçdaroğlu nu kızdıran çıkış

24 Haziran 2025 07:11see124

Icardi ve China Suarez arasında kriz! Arjantin de bırakıp Türkiye ye geldi

23 Haziran 2025 17:46see117

Belediye yapmayınca iş vatandaşa düştü: Marmarisli gönüllülerden koy temizliği Gündem Haberleri

23 Haziran 2025 14:21see117

Gazze deki soykırıma ortak oldukları gerekçesiyle Belçika da 2 şirket protesto edildi Avrupa Haberleri

23 Haziran 2025 14:17see117

Kahverengi kokarcayla mücadele edecekler! Artvin de samuray arıları doğaya salındı

23 Haziran 2025 17:56see116

Öğretmen üniversiteleri neden kurulmalıdır?

23 Haziran 2025 05:06see115

Hollywood’da yalnız başladı Nicole Kidman’la sarılarak bitirdi

23 Haziran 2025 16:38see115

Son maçına Galatasaray da çıktı; Dries Mertens ten futbolu bırakma kararı

23 Haziran 2025 09:04see115

Ve akaryakıta indirim geldi! Gece yarsısı fiyatlar değişti...

24 Haziran 2025 10:04see115

PFDK Başkanı Celal Nuri Demirtürk Galatasaraylı diye istifa etti: Ya yeni PFDK Başkanı Başbuğ Pınarbaşı?

24 Haziran 2025 14:07see115

İmamoğlu nu hedef ala ala TRT de rolü kaptı

23 Haziran 2025 08:52see114

Batman da bilirkişi heyeti kaza yaptı! 4 can kaybı var! Son dakika haberleri Son dakika haberleri

24 Haziran 2025 01:47see114

G.Saray ın yeni isim sponsoru MCT Technic Basketbol Haberleri

23 Haziran 2025 16:41see113

Gelin dizisinde akıllanmayan Beyza dan yeni tehdit! İkisini hedef gösteriyor

24 Haziran 2025 16:25see113

Ahıra girdiğinde 1 vücutta 2 kafa gördü! Oysa sadece keçisini kontrol edecekti Sözcü Gazetesi

23 Haziran 2025 14:52see113

İran ABD üslerini vurdu: Macron dan çağrı

23 Haziran 2025 22:33see113

Prof. Dr. Erol Kam: Nükleer sızıntı herkesi vurur

23 Haziran 2025 07:10see113
newsSon haberler
Günün en taze ve güncel olayları