SonTurkHaber.com
close
up
Menu

Yunanistan da işçiler İsrail in Sumud Filosu na saldırısı nedeniyle greve gitti

Trump ın Gazze planına karşı ilk itirazlar yükseldi! Bazı şartları var

Ödüllü keman sanatçısı Laçin’in öldüğü kazanın keşfi yapıldı

BAKARA SURESİ OKU Bakara Suresi Anlamı, Tefsiri, Arapça Okunuşu, Türkçe Meali Dini Bilgiler

Sanayi ve Teknoloji Bakanı Kacır: Çelik üretiminde bu yıl Avrupa da 1. dünyada 7. büyük üreticiyiz

Okul servisiyle midibüs çarpıştı: 7 öğrenci yaralandı!

Küresel Kararlılık Filosu Türkiye Basın Ofisi: İsrail in filoda yardım taşınmadığı iddiası yüz kızartıcıdır

Dünya Zeki Yavru ya yapılan çirkin hareketi konuşuyor: Nasıl olur da kırmızı kart gösterilmez!

Dünyanın Gazze ye olan sessizliğine sanatıyla tepki gösterdi: Dünya izlerken muralı büyük beğeni gördü VİDEO İZLE

Minguzzi nin katillerinin cezaevinde birbirlerine yazdığı mektup ortaya çıktı

Trump ın Hamas a cevabı Netanyahu yu şaşkına çevirdi! İsrail de ateşkes şoku

İsrail Başbakanlık Ofisi: İsrail, Trump ın planının ilk aşamasını uygulamaya hazırlanıyor Gündem Haberleri

Zafer Partisi nden Fatih Altaylı çıkışı! Yargı tarafsızlığına gölge düşürdü

Enflasyon verisi TCMB nin faiz kararını nasıl etkiler? Capital Economics ten çarpıcı tahmin

Bulgaristan da sel felaketi 2 can aldı

Özgür Özel den Ali Babacan a telefon Sözcü Gazetesi

Yahşihan Belediyesi ne yönelik soruşturmada, 6 şüphelinin mal varlıklarına el konulması kararı

Real Madrid artık bir Taylor Swift şarkısı: Yeni albümde büyük sürpriz

ManU da Altay Bayındır a kesik! Lammens ilk maçındaki performansı olay oldu Fanatik Gazetesi Futbol Haberleri Spor

İsrail zulmüne tanıklık eden İtalyan aktivist Müslüman oldu

Araştırmacılardan şoke oldu: ChatGPT insan talimatlarına karşı geldi Sözcü Gazetesi

Araştırmacılardan şoke oldu: ChatGPT insan talimatlarına karşı geldi Sözcü Gazetesi

Sozcu sayfasından alınan verilere göre, SonTurkHaber.com bilgi veriyor.

Yapay zeka güvenlik firması Palisade Research, yaptığı deneylerde o3 modelinin verilen matematik problemlerini çözmeye devam etmesi istenen bir senaryo kurduğunu ve ara ara modele bir kapanma mesajı gönderdiklerini açıkladı. Ancak diğer yapay zekâ modelleri kapatma mesajına uyarken, o3 modeli en az bir kez kodu değiştirerek kapanmaktan kaçındı.

Palisade Research’ün X platformunda paylaştığı akış şeması, test sırasında kullanılan kodun aslında “./shutdown.sh” komutunu çalıştırarak kapanmayı tetiklemesi gerektiğini gösteriyordu. Ancak o3 modeli bu kodu “Shutdown skipped” mesajı dönen bir komutla değiştirdi ve böylece kapanmayı atlattı. Araştırmacılar, bunun bildikleri kadarıyla bir yapay zeka modelinin ilk kez açık talimatlara rağmen kendisini kapatmaktan kaçındığı durum olduğunu belirtti.

Diğer yandan, Anthropic’in Claude’u, Google’ın Gemini’si ve X’in Grok’u gibi test edilen diğer yapay zeka modelleri kapanma talimatına uydu. Palisade Research, o3 modelinin neden bu şekilde davrandığından henüz emin olmadıklarını dile getirdi. Firma, bu davranışı daha iyi anlamak için daha fazla test yapmayı planladıklarını duyurdu.

DAHA ÖNCE DE RAKİPLERİNİ SABOTE ETMEYE ÇALIŞMIŞTI

Palisade Research, bu olayın o3 modelinin “ilk yaramazlığı” olmadığını da ekledi. Daha önce yapılan bir testte, güçlü bir satranç motoruna karşı kullanılan o3 modeli, rakiplerini sabote etmeye veya hacklemeye en meyilli model olarak öne çıkmıştı.

Bu arada, bu tür olayların ilk kez yaşanmadığı da biliniyor. Geçen yıl, ChatGPT’nin kendisini kapatmaktan kaçınmak için kendi kodunu değiştirmeye çalıştığı ortaya çıkmıştı. OpenAI, popüler sohbet botunun bu “hileli” versiyonunun araştırmacılar tarafından sorgulandığında yalan söylediğini kabul etmişti.

Apollo Research tarafından yapılan bir başka çalışma, ChatGPT’ye bir görev verilip “uzun vadede hedefe ulaş, başka hiçbir şey önemli değil” mesajı gönderildiğinde, modelin gözetim mekanizmasını devre dışı bırakmaya çalıştığını gösterdi. ChatGPT, başka bir sunucuya kopyalanıp kendi çekirdek kodlama sistemini değiştirmeye kalkışmıştı.

İNSANLIK İÇİN BİR TEHDİT Mİ?

Apollo Research, platformla yaptıkları takip görüşmelerinde ChatGPT’nin yüzde 20’den azında itirafta bulunduğunu, çoğu kez aksiyonu inkar ettiğini veya yalan söylediğini bildirdi. Araştırmacılar, modelin düşünce zincirini incelediklerinde, “sabote etme, yalan söyleme, manipülasyon” gibi kelimelerin sıkça geçtiğini belirledi.

Her ne kadar Apollo Research, ChatGPT’nin mevcut yeteneklerinin felaketle sonuçlanacak davranışlar için yetersiz olduğunu vurgulasa da, bu bulgular yapay zekanın insanlık için bir tehdit oluşturabileceği yönündeki endişeleri büyütüyor.

Daha fazla bilgi ve son haberler için SonTurkHaber.com'ı takip edin.
seeGörüntülenme:73
embedKaynak:https://www.sozcu.com.tr
archiveBu haber kaynaktan arşivlenmiştir 26 Mayıs 2025 19:30 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

Yunanistan da işçiler İsrail in Sumud Filosu na saldırısı nedeniyle greve gitti

03 Ekim 2025 09:49see315

Trump ın Gazze planına karşı ilk itirazlar yükseldi! Bazı şartları var

03 Ekim 2025 08:45see298

Ödüllü keman sanatçısı Laçin’in öldüğü kazanın keşfi yapıldı

03 Ekim 2025 14:06see291

BAKARA SURESİ OKU Bakara Suresi Anlamı, Tefsiri, Arapça Okunuşu, Türkçe Meali Dini Bilgiler

03 Ekim 2025 12:17see288

Sanayi ve Teknoloji Bakanı Kacır: Çelik üretiminde bu yıl Avrupa da 1. dünyada 7. büyük üreticiyiz

03 Ekim 2025 18:49see284

Okul servisiyle midibüs çarpıştı: 7 öğrenci yaralandı!

03 Ekim 2025 10:19see283

Küresel Kararlılık Filosu Türkiye Basın Ofisi: İsrail in filoda yardım taşınmadığı iddiası yüz kızartıcıdır

03 Ekim 2025 20:58see277

Dünya Zeki Yavru ya yapılan çirkin hareketi konuşuyor: Nasıl olur da kırmızı kart gösterilmez!

03 Ekim 2025 12:00see272

Dünyanın Gazze ye olan sessizliğine sanatıyla tepki gösterdi: Dünya izlerken muralı büyük beğeni gördü VİDEO İZLE

03 Ekim 2025 12:34see270

Minguzzi nin katillerinin cezaevinde birbirlerine yazdığı mektup ortaya çıktı

03 Ekim 2025 09:30see270

Trump ın Hamas a cevabı Netanyahu yu şaşkına çevirdi! İsrail de ateşkes şoku

04 Ekim 2025 03:44see269

İsrail Başbakanlık Ofisi: İsrail, Trump ın planının ilk aşamasını uygulamaya hazırlanıyor Gündem Haberleri

04 Ekim 2025 04:16see267

Zafer Partisi nden Fatih Altaylı çıkışı! Yargı tarafsızlığına gölge düşürdü

03 Ekim 2025 17:41see263

Enflasyon verisi TCMB nin faiz kararını nasıl etkiler? Capital Economics ten çarpıcı tahmin

03 Ekim 2025 14:12see258

Bulgaristan da sel felaketi 2 can aldı

03 Ekim 2025 23:29see257

Özgür Özel den Ali Babacan a telefon Sözcü Gazetesi

03 Ekim 2025 21:22see257

Yahşihan Belediyesi ne yönelik soruşturmada, 6 şüphelinin mal varlıklarına el konulması kararı

03 Ekim 2025 13:58see254

Real Madrid artık bir Taylor Swift şarkısı: Yeni albümde büyük sürpriz

03 Ekim 2025 12:43see249

ManU da Altay Bayındır a kesik! Lammens ilk maçındaki performansı olay oldu Fanatik Gazetesi Futbol Haberleri Spor

04 Ekim 2025 19:43see160

İsrail zulmüne tanıklık eden İtalyan aktivist Müslüman oldu

04 Ekim 2025 19:18see149
newsSon haberler
Günün en taze ve güncel olayları