SonTurkHaber.com
close
up
Araştırmacılardan şoke oldu: ChatGPT insan talimatlarına karşı geldi Sözcü Gazetesi

Araştırmacılardan şoke oldu: ChatGPT insan talimatlarına karşı geldi Sözcü Gazetesi

Sozcu sayfasından alınan verilere göre, SonTurkHaber.com bilgi veriyor.

Yapay zeka güvenlik firması Palisade Research, yaptığı deneylerde o3 modelinin verilen matematik problemlerini çözmeye devam etmesi istenen bir senaryo kurduğunu ve ara ara modele bir kapanma mesajı gönderdiklerini açıkladı. Ancak diğer yapay zekâ modelleri kapatma mesajına uyarken, o3 modeli en az bir kez kodu değiştirerek kapanmaktan kaçındı.

Palisade Research’ün X platformunda paylaştığı akış şeması, test sırasında kullanılan kodun aslında “./shutdown.sh” komutunu çalıştırarak kapanmayı tetiklemesi gerektiğini gösteriyordu. Ancak o3 modeli bu kodu “Shutdown skipped” mesajı dönen bir komutla değiştirdi ve böylece kapanmayı atlattı. Araştırmacılar, bunun bildikleri kadarıyla bir yapay zeka modelinin ilk kez açık talimatlara rağmen kendisini kapatmaktan kaçındığı durum olduğunu belirtti.

Diğer yandan, Anthropic’in Claude’u, Google’ın Gemini’si ve X’in Grok’u gibi test edilen diğer yapay zeka modelleri kapanma talimatına uydu. Palisade Research, o3 modelinin neden bu şekilde davrandığından henüz emin olmadıklarını dile getirdi. Firma, bu davranışı daha iyi anlamak için daha fazla test yapmayı planladıklarını duyurdu.

DAHA ÖNCE DE RAKİPLERİNİ SABOTE ETMEYE ÇALIŞMIŞTI

Palisade Research, bu olayın o3 modelinin “ilk yaramazlığı” olmadığını da ekledi. Daha önce yapılan bir testte, güçlü bir satranç motoruna karşı kullanılan o3 modeli, rakiplerini sabote etmeye veya hacklemeye en meyilli model olarak öne çıkmıştı.

Bu arada, bu tür olayların ilk kez yaşanmadığı da biliniyor. Geçen yıl, ChatGPT’nin kendisini kapatmaktan kaçınmak için kendi kodunu değiştirmeye çalıştığı ortaya çıkmıştı. OpenAI, popüler sohbet botunun bu “hileli” versiyonunun araştırmacılar tarafından sorgulandığında yalan söylediğini kabul etmişti.

Apollo Research tarafından yapılan bir başka çalışma, ChatGPT’ye bir görev verilip “uzun vadede hedefe ulaş, başka hiçbir şey önemli değil” mesajı gönderildiğinde, modelin gözetim mekanizmasını devre dışı bırakmaya çalıştığını gösterdi. ChatGPT, başka bir sunucuya kopyalanıp kendi çekirdek kodlama sistemini değiştirmeye kalkışmıştı.

İNSANLIK İÇİN BİR TEHDİT Mİ?

Apollo Research, platformla yaptıkları takip görüşmelerinde ChatGPT’nin yüzde 20’den azında itirafta bulunduğunu, çoğu kez aksiyonu inkar ettiğini veya yalan söylediğini bildirdi. Araştırmacılar, modelin düşünce zincirini incelediklerinde, “sabote etme, yalan söyleme, manipülasyon” gibi kelimelerin sıkça geçtiğini belirledi.

Her ne kadar Apollo Research, ChatGPT’nin mevcut yeteneklerinin felaketle sonuçlanacak davranışlar için yetersiz olduğunu vurgulasa da, bu bulgular yapay zekanın insanlık için bir tehdit oluşturabileceği yönündeki endişeleri büyütüyor.

Daha fazla bilgi ve son haberler için SonTurkHaber.com'ı takip edin.
seeGörüntülenme:58
embedKaynak:https://www.sozcu.com.tr
archiveBu haber kaynaktan arşivlenmiştir 26 Mayıs 2025 19:30 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

Batı Akdeniz’in ihracat hacmi 7 ayda 1.6 milyar dolara dayandı Ekonomi Haberleri

03 Ağustos 2025 12:09see126

Ürünü müşteriye fırlattı, müşteri kasiyere yumrukla saldırdı

03 Ağustos 2025 23:21see126

Tüfekle kulağından vurdu: Borç kavgasında silahlar çekildi

04 Ağustos 2025 03:25see118

Ülke felaketi yaşıyor! Aşırı sıcaklar 1 haftada 264 can aldı

03 Ağustos 2025 11:06see117

BDDK, İstanbul da ikamet eden 10 kişiyi işe alacak

03 Ağustos 2025 11:13see115

Yok artık Arda Güler! Sahanın diğer ucundan ayakla basket attı

03 Ağustos 2025 19:21see114

Gaziosmanpaşa da TEM de karşıya geçen Özbekistan uyruklu kadına araç çarptı: 1 ölü

03 Ağustos 2025 22:26see113

Dışişleri nden Mescid i Aksa basınına tepki Sözcü Gazetesi

03 Ağustos 2025 21:28see113

Küçükçekmece de 25 yıllık kuyumcu altınlarla ortadan kayboldu; müşteriler şikayetçi oldu

03 Ağustos 2025 09:55see113

Samet Aybaba ya sürpriz teklif

04 Ağustos 2025 00:13see113

DMD hastası 7 yaşındaki Mustafa Yöndem in tedavisi için başlatılan kampanyaya valilik onayı

03 Ağustos 2025 22:31see112

8.8 lik depremin ardından oluşan tsunami böyle görüntülendi

03 Ağustos 2025 14:12see111

ChatGPT sohbetleri internete sızdı: Yapay zekada güvenlik açığı ortaya çıktı Gündem Haberleri

04 Ağustos 2025 18:16see111

Başkonsolos Poleo fırsat dedi! İngiltere’den Eurofighter mesajı!

03 Ağustos 2025 15:39see111

Yol çalışmasını fark edemeyen sürücü takla attı: 1 yaralı

03 Ağustos 2025 13:42see110

Ciroda Avrupa ya yaklaştık Ekonomi Haberleri

04 Ağustos 2025 04:14see110

Mahalleli resmen şokta: 25 yıllık kuyumcu topladığı altınlarla kaçtı!

03 Ağustos 2025 11:29see110

Güler Sabancı bakın nerede ortaya çıktı: Yanındaki isimler dikkat çekti

04 Ağustos 2025 14:38see110

İstanbul’dan Van’a 14 ilde DEAŞ operasyonu

03 Ağustos 2025 07:32see109

BM Gazze deki son durumu Bu korkunç diyerek açıkladı: 1 milyon kadın ve kız çocuğu açlık çekiyor

03 Ağustos 2025 17:37see109
newsSon haberler
Günün en taze ve güncel olayları