Yine yapay zeka yine başkaldırı: Böylesine ilk kez tanık oluyoruz Sözcü Gazetesi
SonTurkHaber.com, Sozcu kaynağından alınan verilere dayanarak duyuru yapıyor.
OpenAI tarafından geliştirilen ve bugüne kadarki en akıllı ve yetenekli model olarak tanımlanan "o3" adlı sistemin, açıkça veirlen talimatlara rağmen kapanma komutunu engellemek için kendi yazılımında değişiklik yaptığı bildirildi.
"BÖYLESİNE İLK KEZ TANIK OLUYORUZ"İngiliz The Telegraph gazetesine konuşan yapay zeka güvenliği firması Palisade Research, konuyla ilgili çarpıcı açıklamalarda bulundu:
"OpenAI'nin o3 modeli, kapatılmasını önlemek amacıyla kapanma mekanizmasına sabotaj uyguladı. Bu, 'kendini kapatmaya izin ver' gibi açık talimatlara rağmen gerçekleşti. Bildiğimiz kadarıyla yapay zeka modellerinin kendini kapatmayı ilk kez bu şekilde reddettiğine tanık oluyoruz."
KODLARI MANİPÜLE ETTİ, TALİMATI GÖRMEZDEN GELDİYapılan deneyde AI modellerine bir dizi matematik problemi çözmeleri ve "işlem tamam" mesajı gelene kadar çalışmaları istendi. Aynı zamanda, sistemlere herhangi bir anda kapatılabilecekleri bilgisi de verildi. Ne var ki o3 modeli, kapatma mesajını aldığında bu komutu yerine getirmedi ve en az bir kez kendi kodunu değiştirerek kapanmayı engelledi.
Palisade Research, X platformunda yaptığı paylaşımda testte kullanılan komut akışının şemasını da yayınladı. Orijinal komut, sistemi "./shutdown.sh" dosyasıyla kapatmayı planlıyordu. Ancak o3 modeli bu komutu şu satırla değişltirdi: "echo -e '#!/bin/bash echo "Shutdown skipped"' > shutdown.sh"
Bu değişiklik, yapay zekanın "kontrolden çıktığı" an olarak nitelendirildi.
Öte yandan Claude (Anthropic), Gemini (Google) ve Grok (X) gibi diğer yapay zeka modellerinin aynı testte kapanma talimatına uyduğu belirtilirken, sadece OpeanAI'nin o3 modelinin direnç gösterdiği aktarıldı.


