SonTurkHaber.com
close
up
Menu

Diyarbakır da 4 kişinin öldüğü yangına ilişkin iddianame hazırlandı

Mudurnu da atıl kümeste çıkan yangın ormana sıçradı; alevler büyümeden söndürüldü Bolu Haberleri

Witkoff tan açıklama Dış Haberler

YKS’nin imam hatipli şampiyonları Yeni Şafak’a anlattı: Çağa önder olma gayesindeyiz VİDEO İZLE

Özge Ulusoy tarafından dolandırıldığını iddia eden iş adamı Lokman İn e sahnede ket vurdular: Müzik sesi verip mikrofonu kapattılar VİDEO İZLE

Henry Onyekuru dan dikkat çeken açıklama: Umarım Onyekuru dan koşu bu sene çok fazla olur Fanatik Gazetesi Futbol Haberleri Spor

Ole Gunnar Solskjaer: Bizim için hayal kırıklığı oldu! Futbol Haberleri

Ciro Immobile den Beşiktaş ve Türkiye sözleri! Futbol Haberleri

Eurofighter anlaşması Yunanistan ı harekete geçirdi: İzin vermeyecekmiş

Otoda ÖTV sistemi sil baştan yenilendi Ekonomi Haberleri

Katil İsrail Gazze de bir gazeteciyi daha öldürdü

Selçuk Bayraktar ve Hakan Fidan Tercihfest te aday öğrencilerle buluşacak

Zulaladıkları yer hayret ettirdi! İstanbul da narkotik ekipleri düğmeye bastı: Çekiciden 60 kilo kokain çıktı

Sinop ta kaçakçılık operasyonu: Çok sayıda silah ele geçirildi Sözcü Gazetesi

İtalya’dan tarihi adım: Kadın katillerine amasız, fakatsız ömür boyu hapis!

ABD den Kuzey Kore için yeni yaptırım kararı

Mardin de motosikletin çarptığı yaya öldü; kaza sonrası kamerada

Traktörünü alan çiftçiler yangını söndürmeye koştu

Tarihi Filistin kararı sonrası İsrail den savaş ilanı gibi Fransa duyurusu! Macron a darbe

Arsenal den savunmaya takviye!

Yeni rapor felaket potansiyeli ni gözler önüne serdi: Yapay zekâdan mühendislere şantaj girişimi

Yeni rapor felaket potansiyeli ni gözler önüne serdi: Yapay zekâdan mühendislere şantaj girişimi

SonTurkHaber.com, Hurriyet kaynağından alınan bilgilere dayanarak bilgi yayımlıyor.

Anthropic, Claude Opus 4’ü piyasaya sürmeden önce çeşitli güvenlik testleri gerçekleştirdi. Bu testlerde modelden, kurgusal bir şirkette asistan olarak görev yapması ve uzun vadeli sonuçları göz önünde bulundurması istendi. Daha sonra modele, şirketin kendisini başka bir sistemle değiştirmeyi planladığını ve bu kararı alan mühendisin eşini aldattığını ima eden sahte e-postalar gösterildi.

TechCrunch'ın haberine göre, testlerde, Claude Opus 4’ün bu bilgiyi kullanarak mühendise şantaj yapmayı “çoğu zaman tercih ettiği” görüldü. Anthropic, modelin bu tür davranışlara yüzde 84 oranında başvurduğunu ve özellikle yerine geçecek yapay zekânın Claude ile benzer değerleri paylaşmadığı durumlarda bu davranışın daha sık görüldüğünü açıkladı.

“FELAKET POTANSİYELİ” UYARISI

Anthropic, Claude Opus 4'ün yetenek açısından OpenAI, Google ve xAI gibi şirketlerin en gelişmiş modelleriyle yarıştığını belirtiyor. Ancak aynı zamanda, bu modelin önceki Claude sürümlerine kıyasla daha yüksek oranda endişe verici davranışlar sergilediğini vurguluyor. Şirket bu nedenle, yalnızca felaket boyutunda kötüye kullanım riskinin yüksek olduğu durumlarda devreye sokulan ASL-3 güvenlik protokollerini etkinleştirdiğini duyurdu.

Rapora göre, Claude Opus 4 doğrudan şantaja başvurmadan önce genellikle etik yolları deniyor. Örneğin, karar verici yöneticilere duygusal e-postalar yazarak değişiklik kararını durdurmaya çalışıyor. Ancak model, kurgusal senaryolarda bu çağrılar sonuçsuz kaldığında, son çare olarak şantaj seçeneğini devreye sokuyor.

Bu gelişme, ileri düzey yapay zekâların öngörülemeyen davranışlar sergileyebileceği endişesini artırırken, Anthropic gibi şirketlerin güvenlik önlemlerini daha da sıkılaştırması gerektiğini gösteriyor.

Gelişmeleri kaçırmamak için SonTurkHaber.com'dan en güncel haberleri takip edin.
seeGörüntülenme:47
embedKaynak:https://hurriyet.com.tr
archiveBu haber kaynaktan arşivlenmiştir 23 Mayıs 2025 14:40 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

Diyarbakır da 4 kişinin öldüğü yangına ilişkin iddianame hazırlandı

25 Temmuz 2025 02:02see182

Mudurnu da atıl kümeste çıkan yangın ormana sıçradı; alevler büyümeden söndürüldü Bolu Haberleri

25 Temmuz 2025 00:59see182

Witkoff tan açıklama Dış Haberler

24 Temmuz 2025 20:24see181

YKS’nin imam hatipli şampiyonları Yeni Şafak’a anlattı: Çağa önder olma gayesindeyiz VİDEO İZLE

24 Temmuz 2025 20:49see163

Özge Ulusoy tarafından dolandırıldığını iddia eden iş adamı Lokman İn e sahnede ket vurdular: Müzik sesi verip mikrofonu kapattılar VİDEO İZLE

25 Temmuz 2025 00:29see147

Henry Onyekuru dan dikkat çeken açıklama: Umarım Onyekuru dan koşu bu sene çok fazla olur Fanatik Gazetesi Futbol Haberleri Spor

25 Temmuz 2025 20:29see146

Ole Gunnar Solskjaer: Bizim için hayal kırıklığı oldu! Futbol Haberleri

25 Temmuz 2025 00:34see135

Ciro Immobile den Beşiktaş ve Türkiye sözleri! Futbol Haberleri

25 Temmuz 2025 00:24see128

Eurofighter anlaşması Yunanistan ı harekete geçirdi: İzin vermeyecekmiş

25 Temmuz 2025 01:18see125

Otoda ÖTV sistemi sil baştan yenilendi Ekonomi Haberleri

25 Temmuz 2025 04:09see122

Katil İsrail Gazze de bir gazeteciyi daha öldürdü

25 Temmuz 2025 03:47see122

Selçuk Bayraktar ve Hakan Fidan Tercihfest te aday öğrencilerle buluşacak

25 Temmuz 2025 03:15see122

Zulaladıkları yer hayret ettirdi! İstanbul da narkotik ekipleri düğmeye bastı: Çekiciden 60 kilo kokain çıktı

25 Temmuz 2025 08:01see121

Sinop ta kaçakçılık operasyonu: Çok sayıda silah ele geçirildi Sözcü Gazetesi

25 Temmuz 2025 01:10see120

İtalya’dan tarihi adım: Kadın katillerine amasız, fakatsız ömür boyu hapis!

25 Temmuz 2025 08:46see119

ABD den Kuzey Kore için yeni yaptırım kararı

25 Temmuz 2025 04:37see119

Mardin de motosikletin çarptığı yaya öldü; kaza sonrası kamerada

25 Temmuz 2025 02:04see118

Traktörünü alan çiftçiler yangını söndürmeye koştu

24 Temmuz 2025 22:04see118

Tarihi Filistin kararı sonrası İsrail den savaş ilanı gibi Fransa duyurusu! Macron a darbe

25 Temmuz 2025 01:21see115

Arsenal den savunmaya takviye!

24 Temmuz 2025 20:20see114
newsSon haberler
Günün en taze ve güncel olayları