SonTurkHaber.com
close
up
Yine yapay zeka yine başkaldırı: Böylesine ilk kez tanık oluyoruz Sözcü Gazetesi

Yine yapay zeka yine başkaldırı: Böylesine ilk kez tanık oluyoruz Sözcü Gazetesi

SonTurkHaber.com, Sozcu kaynağından alınan verilere dayanarak duyuru yapıyor.

OpenAI tarafından geliştirilen ve bugüne kadarki en akıllı ve yetenekli model olarak tanımlanan "o3" adlı sistemin, açıkça veirlen talimatlara rağmen kapanma komutunu engellemek için kendi yazılımında değişiklik yaptığı bildirildi.

"BÖYLESİNE İLK KEZ TANIK OLUYORUZ"

İngiliz The Telegraph gazetesine konuşan yapay zeka güvenliği firması Palisade Research, konuyla ilgili çarpıcı açıklamalarda bulundu:

"OpenAI'nin o3 modeli, kapatılmasını önlemek amacıyla kapanma mekanizmasına sabotaj uyguladı. Bu, 'kendini kapatmaya izin ver' gibi açık talimatlara rağmen gerçekleşti. Bildiğimiz kadarıyla yapay zeka modellerinin kendini kapatmayı ilk kez bu şekilde reddettiğine tanık oluyoruz."

KODLARI MANİPÜLE ETTİ, TALİMATI GÖRMEZDEN GELDİ

Yapılan deneyde AI modellerine bir dizi matematik problemi çözmeleri ve "işlem tamam" mesajı gelene kadar çalışmaları istendi. Aynı zamanda, sistemlere herhangi bir anda kapatılabilecekleri bilgisi de verildi. Ne var ki o3 modeli, kapatma mesajını aldığında bu komutu yerine getirmedi ve en az bir kez kendi kodunu değiştirerek kapanmayı engelledi.

Palisade Research, X platformunda yaptığı paylaşımda testte kullanılan komut akışının şemasını da yayınladı. Orijinal komut, sistemi "./shutdown.sh" dosyasıyla kapatmayı planlıyordu. Ancak o3 modeli bu komutu şu satırla değişltirdi: "echo -e '#!/bin/bash echo "Shutdown skipped"' > shutdown.sh"

Bu değişiklik, yapay zekanın "kontrolden çıktığı" an olarak nitelendirildi.

Öte yandan Claude (Anthropic), Gemini (Google) ve Grok (X) gibi diğer yapay zeka modellerinin aynı testte kapanma talimatına uyduğu belirtilirken, sadece OpeanAI'nin o3 modelinin direnç gösterdiği aktarıldı.

Önemli haberleri ve güncellemeleri kaçırmamak için SonTurkHaber.com'ı takip edin.
seeGörüntülenme:66
embedKaynak:https://www.sozcu.com.tr
archiveBu haber kaynaktan arşivlenmiştir 26 Mayıs 2025 10:09 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

UZAK ŞEHİR 28. BÖLÜM FULL HD İZLE (2 Haziran 2025 Pazartesi) Uzak Şehir son bölüme damga vuran sahne... Cihan, Alya yı öptü! İşte Uzak Şehir sezon...

03 Haziran 2025 02:12see228

TV oyuncusu tartıştığı komşusu tarafından öldürüldü

03 Haziran 2025 08:52see177

‘Sen hayırdır lan!’

03 Haziran 2025 05:17see169

Türk Telekom u yenen Fenerbahçe Beko yarı finale yükseldi Sözcü Gazetesi

02 Haziran 2025 23:45see168

Bayraktar TB3 TCG Anadolu gemisinde 100 sortiyi tamamladı

03 Haziran 2025 08:50see163

Kayık alabora oldu, 1 kişi kurtarılamadı

03 Haziran 2025 02:00see149

Zengin olmak onlar için çok kolay! Gerçekten başarılı olan 3 burç

03 Haziran 2025 01:35see142

Zelenski, liderler görüşmeden ateşkes sağlanmasının mümkün olmayabileceğini belirtti

02 Haziran 2025 22:39see136

Guns N’ Roses, Ahmet için cennetin kapısını çaldı

02 Haziran 2025 23:13see131

Son dakika: Korkutan deprem! İzmir ve Antalya da hissedildi

03 Haziran 2025 02:24see130

ABD den olumlu adım: İran a müsamaha göstereceğini duyurdu

03 Haziran 2025 01:12see130

Tekirdağ da tefeci çetesine operasyon

03 Haziran 2025 19:32see121

Yangın yönetmeliği kriterlerine uymayan işletmeler mühürleniyor

03 Haziran 2025 17:15see118

Cambridge öğrencileri, İsrail le ilişkilerin kesilmesi talebiyle eylem başlattı

03 Haziran 2025 00:52see115

Kayıp olarak aranan karı koca köy kırsalında ölü bulundu

02 Haziran 2025 23:44see115

Mevlana İdris vefatının 3. yılında anıldı Kültür Sanat Haberleri

03 Haziran 2025 04:04see114

Mayısta fiyatı en çok artan ürün posta hizmetleri, en fazla düşen yumurta oldu

03 Haziran 2025 12:37see114

İsrail basınına göre, Tel Aviv yönetimi Doha ya müzakere heyeti göndermeme kararı aldı

03 Haziran 2025 07:46see114

Kocaeli de TIR la çarpışan motosikletli öldü

03 Haziran 2025 04:11see110

Bahçeli den Özel e maşallah VİDEO İZLE

03 Haziran 2025 20:35see110
newsSon haberler
Günün en taze ve güncel olayları