SonTurkHaber.com
close
up
Menu

SON DAKİKA… 50 bin dolara vatandaşlık satmışlardı! BABATAK operasyonunun şifreleri ortaya çıktı:42 kilogram altın ve 50 milyon liralık döviz...

SON DAKİKA: GÜLLÜ HAYATINI KAYBETTİ! Güllü kimdir, kaç yaşındaydı, gerçek adı ne? Şarkıcı Güllü neden öldü?

Özel den Erdoğan a ABD mesajı: Oralarda duydukları övgüyle verdikleri tavizleri birbirine denkleştiriyorlar

Özel okul tercih mi zorunluluk mu?

Özgür Özel, Elazığ da İBB nin yaptırdığı okulun açılışına katıldı Elazığ Haberleri

Altyapı çalışmaları sırasında çarşı inşaatında göçük: Bir işçi yaralı Malatya Haberleri

NATO duyurdu: Rus İHA larını vururuz!

Bolvadin de sessiz ağaç kesimi: Vatandaşlar tepkili

Büyü bozuyoruz dediler 34 milyon lira dolandırıcılık yaptılar

Dire Straits Legacy konser, Don Kişot tiyatro sahnesinde! İşte haftanın kültür sanat ajandası

Meteoroloji den İstanbul dahil 10 il için sarı kodlu uyarı! Kuvvetli sağanak ve rüzgar geliyor

İmamoğlu Afyon a Atatürk ün sözleriyle çağırdı

Özgür Özel neden iktidar olmak istediklerini anlattı! Anlattıklarını duyan bir derin ah çekti

Son dakika Sosyal medya fenomeni Kıvanç Beril Talu çiftine tahliye! 195 er yıla kadar hapis isteniyordu

“Muhafazakar ara tatil” Sözcü Gazetesi

Alman devinde kriz! Binlerce çalışan işten çıkarılacak

Yılın düğününe sayılı saatler kaldı… Konuklardan sürpriz şova kadar her şey belli ama törenin yerini bir tek gelinle damat biliyor!

Çalışma Bakanı Işıkhan CHP li belediyeleri uyardı: Gölge etmeyin, SGK borcunuzu ödeyin Türkiye Ekonomisi Haberleri

Sadettin Saran dan Saran Holding ve Tuttur kararı Sözcü Gazetesi

Xiaomi 17 ve 17 Pro resmen tanıtıldı: Xiaomi 17 Pro teknik özellikleri neler, fiyatı ne kadar? Mobil Haberleri

Yeni rapor felaket potansiyeli ni gözler önüne serdi: Yapay zekâdan mühendislere şantaj girişimi

Yeni rapor felaket potansiyeli ni gözler önüne serdi: Yapay zekâdan mühendislere şantaj girişimi

SonTurkHaber.com, Hurriyet kaynağından alınan bilgilere dayanarak bilgi yayımlıyor.

Anthropic, Claude Opus 4’ü piyasaya sürmeden önce çeşitli güvenlik testleri gerçekleştirdi. Bu testlerde modelden, kurgusal bir şirkette asistan olarak görev yapması ve uzun vadeli sonuçları göz önünde bulundurması istendi. Daha sonra modele, şirketin kendisini başka bir sistemle değiştirmeyi planladığını ve bu kararı alan mühendisin eşini aldattığını ima eden sahte e-postalar gösterildi.

TechCrunch'ın haberine göre, testlerde, Claude Opus 4’ün bu bilgiyi kullanarak mühendise şantaj yapmayı “çoğu zaman tercih ettiği” görüldü. Anthropic, modelin bu tür davranışlara yüzde 84 oranında başvurduğunu ve özellikle yerine geçecek yapay zekânın Claude ile benzer değerleri paylaşmadığı durumlarda bu davranışın daha sık görüldüğünü açıkladı.

“FELAKET POTANSİYELİ” UYARISI

Anthropic, Claude Opus 4'ün yetenek açısından OpenAI, Google ve xAI gibi şirketlerin en gelişmiş modelleriyle yarıştığını belirtiyor. Ancak aynı zamanda, bu modelin önceki Claude sürümlerine kıyasla daha yüksek oranda endişe verici davranışlar sergilediğini vurguluyor. Şirket bu nedenle, yalnızca felaket boyutunda kötüye kullanım riskinin yüksek olduğu durumlarda devreye sokulan ASL-3 güvenlik protokollerini etkinleştirdiğini duyurdu.

Rapora göre, Claude Opus 4 doğrudan şantaja başvurmadan önce genellikle etik yolları deniyor. Örneğin, karar verici yöneticilere duygusal e-postalar yazarak değişiklik kararını durdurmaya çalışıyor. Ancak model, kurgusal senaryolarda bu çağrılar sonuçsuz kaldığında, son çare olarak şantaj seçeneğini devreye sokuyor.

Bu gelişme, ileri düzey yapay zekâların öngörülemeyen davranışlar sergileyebileceği endişesini artırırken, Anthropic gibi şirketlerin güvenlik önlemlerini daha da sıkılaştırması gerektiğini gösteriyor.

Gelişmeleri kaçırmamak için SonTurkHaber.com'dan en güncel haberleri takip edin.
seeGörüntülenme:62
embedKaynak:https://hurriyet.com.tr
archiveBu haber kaynaktan arşivlenmiştir 23 Mayıs 2025 14:40 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

SON DAKİKA… 50 bin dolara vatandaşlık satmışlardı! BABATAK operasyonunun şifreleri ortaya çıktı:42 kilogram altın ve 50 milyon liralık döviz...

26 Eylül 2025 10:37see275

SON DAKİKA: GÜLLÜ HAYATINI KAYBETTİ! Güllü kimdir, kaç yaşındaydı, gerçek adı ne? Şarkıcı Güllü neden öldü?

26 Eylül 2025 08:41see159

Özel den Erdoğan a ABD mesajı: Oralarda duydukları övgüyle verdikleri tavizleri birbirine denkleştiriyorlar

26 Eylül 2025 21:54see154

Özel okul tercih mi zorunluluk mu?

26 Eylül 2025 05:05see152

Özgür Özel, Elazığ da İBB nin yaptırdığı okulun açılışına katıldı Elazığ Haberleri

25 Eylül 2025 18:41see148

Altyapı çalışmaları sırasında çarşı inşaatında göçük: Bir işçi yaralı Malatya Haberleri

25 Eylül 2025 18:33see148

NATO duyurdu: Rus İHA larını vururuz!

25 Eylül 2025 20:29see146

Bolvadin de sessiz ağaç kesimi: Vatandaşlar tepkili

26 Eylül 2025 03:34see142

Büyü bozuyoruz dediler 34 milyon lira dolandırıcılık yaptılar

25 Eylül 2025 20:56see124

Dire Straits Legacy konser, Don Kişot tiyatro sahnesinde! İşte haftanın kültür sanat ajandası

26 Eylül 2025 10:40see121

Meteoroloji den İstanbul dahil 10 il için sarı kodlu uyarı! Kuvvetli sağanak ve rüzgar geliyor

26 Eylül 2025 06:18see116

İmamoğlu Afyon a Atatürk ün sözleriyle çağırdı

26 Eylül 2025 21:16see116

Özgür Özel neden iktidar olmak istediklerini anlattı! Anlattıklarını duyan bir derin ah çekti

25 Eylül 2025 16:48see116

Son dakika Sosyal medya fenomeni Kıvanç Beril Talu çiftine tahliye! 195 er yıla kadar hapis isteniyordu

25 Eylül 2025 17:29see115

“Muhafazakar ara tatil” Sözcü Gazetesi

26 Eylül 2025 05:02see114

Alman devinde kriz! Binlerce çalışan işten çıkarılacak

25 Eylül 2025 18:25see114

Yılın düğününe sayılı saatler kaldı… Konuklardan sürpriz şova kadar her şey belli ama törenin yerini bir tek gelinle damat biliyor!

26 Eylül 2025 07:30see113

Çalışma Bakanı Işıkhan CHP li belediyeleri uyardı: Gölge etmeyin, SGK borcunuzu ödeyin Türkiye Ekonomisi Haberleri

25 Eylül 2025 21:37see113

Sadettin Saran dan Saran Holding ve Tuttur kararı Sözcü Gazetesi

25 Eylül 2025 19:19see112

Xiaomi 17 ve 17 Pro resmen tanıtıldı: Xiaomi 17 Pro teknik özellikleri neler, fiyatı ne kadar? Mobil Haberleri

25 Eylül 2025 20:52see112
newsSon haberler
Günün en taze ve güncel olayları