SonTurkHaber.com
close
up
Menu

TFF duyurdu! Egemen Korkmaz dönemi resmen başladı

İstanbul su kesintisi sorgulama! 31 Mayıs İSKİ su kesintisi programı

Bakan Fidan, Kırım Tatarlarının Milli Lideri Kırımoğlu nu kabul etti

Futbolda milli mesai yarın başlayacak! Futbol Haberleri

Adana da imalathanede yangın: 2 işçi camdan atladı Sözcü Gazetesi

İBB nin metrobüslerini de üreten dev firma konkordato ilan etti

Trump ile Musk ortak açıklamalarda bulundu Dış Haberler

Gönüllü doktorların başvurusu ile 2,1 milyar TL tasarruf

Özel’den ‘Terörsüz Türkiye’ mesajları: Meclis’teki her çalışmaya olumlu katkı

İzmir’de sağlık çalışanlarından eylem: Bakanlık sorunlara kulaklarını tıkıyor

Devre arasında gerginlik! Osimhen, Ba yı soyunma odası koridoruna çağırdı

Cumhurbaşkanı Erdoğan dan Faiz Açıklaması: Faizsiz Ekonomi Özlemimi Dillendirmeye Devam Edeceğim

Amor Silivri de İmamoğlu nu ziyaret etti: Tutuklanmasına en sert tepkiyi göstermişti

Hatayspor Teknik Direktörü Murat Şahin: Birlik ve bütünlüğü sağlayabilirsek Süper Lig’e geri döneriz Fanatik Gazetesi Futbol Haberleri Spor

Narin Güran cinayetinde suçluyu kayırma davası

Serdal Adalı dan Beşiktaş taraftarını sevindirecek transfer açıklaması

Bakanlık duyurdu: 251 Milyon TL lik tarımsal destek ödemeleri hesaplara geçiyor Son Dakika Haberleri

Özel den miting çağrısı: Adalet ve demokrasi için sesimizi yükselteceğiz! Sözcü Gazetesi

Çubuk yolunda trafik kazası: 1 ölü

Çağla Şıkel den yıllar sonra şaşırtan itiraf: Çok şiddet gördüm

Araştırmacılardan şoke oldu: ChatGPT insan talimatlarına karşı geldi Sözcü Gazetesi

Araştırmacılardan şoke oldu: ChatGPT insan talimatlarına karşı geldi Sözcü Gazetesi

Sozcu sayfasından alınan verilere göre, SonTurkHaber.com bilgi veriyor.

Yapay zeka güvenlik firması Palisade Research, yaptığı deneylerde o3 modelinin verilen matematik problemlerini çözmeye devam etmesi istenen bir senaryo kurduğunu ve ara ara modele bir kapanma mesajı gönderdiklerini açıkladı. Ancak diğer yapay zekâ modelleri kapatma mesajına uyarken, o3 modeli en az bir kez kodu değiştirerek kapanmaktan kaçındı.

Palisade Research’ün X platformunda paylaştığı akış şeması, test sırasında kullanılan kodun aslında “./shutdown.sh” komutunu çalıştırarak kapanmayı tetiklemesi gerektiğini gösteriyordu. Ancak o3 modeli bu kodu “Shutdown skipped” mesajı dönen bir komutla değiştirdi ve böylece kapanmayı atlattı. Araştırmacılar, bunun bildikleri kadarıyla bir yapay zeka modelinin ilk kez açık talimatlara rağmen kendisini kapatmaktan kaçındığı durum olduğunu belirtti.

Diğer yandan, Anthropic’in Claude’u, Google’ın Gemini’si ve X’in Grok’u gibi test edilen diğer yapay zeka modelleri kapanma talimatına uydu. Palisade Research, o3 modelinin neden bu şekilde davrandığından henüz emin olmadıklarını dile getirdi. Firma, bu davranışı daha iyi anlamak için daha fazla test yapmayı planladıklarını duyurdu.

DAHA ÖNCE DE RAKİPLERİNİ SABOTE ETMEYE ÇALIŞMIŞTI

Palisade Research, bu olayın o3 modelinin “ilk yaramazlığı” olmadığını da ekledi. Daha önce yapılan bir testte, güçlü bir satranç motoruna karşı kullanılan o3 modeli, rakiplerini sabote etmeye veya hacklemeye en meyilli model olarak öne çıkmıştı.

Bu arada, bu tür olayların ilk kez yaşanmadığı da biliniyor. Geçen yıl, ChatGPT’nin kendisini kapatmaktan kaçınmak için kendi kodunu değiştirmeye çalıştığı ortaya çıkmıştı. OpenAI, popüler sohbet botunun bu “hileli” versiyonunun araştırmacılar tarafından sorgulandığında yalan söylediğini kabul etmişti.

Apollo Research tarafından yapılan bir başka çalışma, ChatGPT’ye bir görev verilip “uzun vadede hedefe ulaş, başka hiçbir şey önemli değil” mesajı gönderildiğinde, modelin gözetim mekanizmasını devre dışı bırakmaya çalıştığını gösterdi. ChatGPT, başka bir sunucuya kopyalanıp kendi çekirdek kodlama sistemini değiştirmeye kalkışmıştı.

İNSANLIK İÇİN BİR TEHDİT Mİ?

Apollo Research, platformla yaptıkları takip görüşmelerinde ChatGPT’nin yüzde 20’den azında itirafta bulunduğunu, çoğu kez aksiyonu inkar ettiğini veya yalan söylediğini bildirdi. Araştırmacılar, modelin düşünce zincirini incelediklerinde, “sabote etme, yalan söyleme, manipülasyon” gibi kelimelerin sıkça geçtiğini belirledi.

Her ne kadar Apollo Research, ChatGPT’nin mevcut yeteneklerinin felaketle sonuçlanacak davranışlar için yetersiz olduğunu vurgulasa da, bu bulgular yapay zekanın insanlık için bir tehdit oluşturabileceği yönündeki endişeleri büyütüyor.

Daha fazla bilgi ve son haberler için SonTurkHaber.com'ı takip edin.
seeGörüntülenme:49
embedKaynak:https://www.sozcu.com.tr
archiveBu haber kaynaktan arşivlenmiştir 26 Mayıs 2025 19:30 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

TFF duyurdu! Egemen Korkmaz dönemi resmen başladı

31 Mayıs 2025 00:27see171

İstanbul su kesintisi sorgulama! 31 Mayıs İSKİ su kesintisi programı

31 Mayıs 2025 00:50see167

Bakan Fidan, Kırım Tatarlarının Milli Lideri Kırımoğlu nu kabul etti

30 Mayıs 2025 22:46see150

Futbolda milli mesai yarın başlayacak! Futbol Haberleri

31 Mayıs 2025 10:19see149

Adana da imalathanede yangın: 2 işçi camdan atladı Sözcü Gazetesi

31 Mayıs 2025 16:24see147

İBB nin metrobüslerini de üreten dev firma konkordato ilan etti

30 Mayıs 2025 22:29see133

Trump ile Musk ortak açıklamalarda bulundu Dış Haberler

30 Mayıs 2025 21:31see130

Gönüllü doktorların başvurusu ile 2,1 milyar TL tasarruf

31 Mayıs 2025 13:07see121

Özel’den ‘Terörsüz Türkiye’ mesajları: Meclis’teki her çalışmaya olumlu katkı

31 Mayıs 2025 07:13see120

İzmir’de sağlık çalışanlarından eylem: Bakanlık sorunlara kulaklarını tıkıyor

30 Mayıs 2025 17:38see119

Devre arasında gerginlik! Osimhen, Ba yı soyunma odası koridoruna çağırdı

30 Mayıs 2025 21:17see119

Cumhurbaşkanı Erdoğan dan Faiz Açıklaması: Faizsiz Ekonomi Özlemimi Dillendirmeye Devam Edeceğim

30 Mayıs 2025 17:21see119

Amor Silivri de İmamoğlu nu ziyaret etti: Tutuklanmasına en sert tepkiyi göstermişti

30 Mayıs 2025 20:51see118

Hatayspor Teknik Direktörü Murat Şahin: Birlik ve bütünlüğü sağlayabilirsek Süper Lig’e geri döneriz Fanatik Gazetesi Futbol Haberleri Spor

31 Mayıs 2025 20:01see118

Narin Güran cinayetinde suçluyu kayırma davası

30 Mayıs 2025 20:13see117

Serdal Adalı dan Beşiktaş taraftarını sevindirecek transfer açıklaması

31 Mayıs 2025 15:53see115

Bakanlık duyurdu: 251 Milyon TL lik tarımsal destek ödemeleri hesaplara geçiyor Son Dakika Haberleri

30 Mayıs 2025 19:22see115

Özel den miting çağrısı: Adalet ve demokrasi için sesimizi yükselteceğiz! Sözcü Gazetesi

30 Mayıs 2025 22:44see115

Çubuk yolunda trafik kazası: 1 ölü

30 Mayıs 2025 21:14see114

Çağla Şıkel den yıllar sonra şaşırtan itiraf: Çok şiddet gördüm

31 Mayıs 2025 07:52see113
newsSon haberler
Günün en taze ve güncel olayları