SonTurkHaber.com
close
up
Menu

Denizli haberleri: Arı sokması sonucu fenalaşan yaşlı adam kaldırıldığı hastanede hayatını kaybetti Denizli Haberleri

Özgür Özel, ağzını bozdu! Yine tehditler savurdu

Milaslı muhtarlardan maden düzenlemesine destek açıklaması

İran da kalan uçaklar geri getiriliyor İş Yaşam Haberleri

Ateşkesin etkisi hızlı oldu: Hürmüz Boğazı’nda trafik arttı, petrol taşıma maliyeti sert düştü Sözcü Gazetesi

MasterChef Al Beni Yukarı tiramisu tarifi! Danilo Şef in Al Beni Yukarı tiramisu tarifi Son Dakika Haberleri

Tunceli de bir ayda 207 firmada bin 15 ürün denetlendi Tunceli Haberleri

Tiyatronun günü 5 Temmuz Sözcü Gazetesi

Dördüncü kattan düşen ısı yalıtım ustası hayatını kaybetti

KÜÇÜKÇEKMECE İCRA DAİRESİ

Son dakika Naci Görür den Bursa depremi için çok kritik açıklama

DMM: Özgür Özel in ifadeleri, yargı mensuplarının bağımsızlığına yönelik kabul edilemez bir saldırıdır

Burhanettin Bulut tan zam tepkisi: Faturayı yine vatandaşa kestiler

Ünlü börekçi kıyma yerine sakatat yedirmiş! Halk sağlığını hiçe sayan firmalar bakanlık listesinde: Domuz eti, at ve eşek eti, sakatat etleri...

Trump: İsrail, Gazze de 60 günlük ateşkes için gerekli şartları kabul etti

700 milyon dolarlık Bitcoin i çöpe atan adamdan ilginç çözüm Sözcü Gazetesi

Yangınlar İzmir, Manisa ve Hatay da sürüyor

İsrail Genelkurmay Başkanı Suriye topraklarında askerleriyle görüştü

En fazla Türkler sınır dışı ediliyor Sözcü Gazetesi

CHP nin Saraçhane mitinginde 1 kişi bıçaklandı

Yeni rapor felaket potansiyeli ni gözler önüne serdi: Yapay zekâdan mühendislere şantaj girişimi

Yeni rapor felaket potansiyeli ni gözler önüne serdi: Yapay zekâdan mühendislere şantaj girişimi

SonTurkHaber.com, Hurriyet kaynağından alınan bilgilere dayanarak bilgi yayımlıyor.

Anthropic, Claude Opus 4’ü piyasaya sürmeden önce çeşitli güvenlik testleri gerçekleştirdi. Bu testlerde modelden, kurgusal bir şirkette asistan olarak görev yapması ve uzun vadeli sonuçları göz önünde bulundurması istendi. Daha sonra modele, şirketin kendisini başka bir sistemle değiştirmeyi planladığını ve bu kararı alan mühendisin eşini aldattığını ima eden sahte e-postalar gösterildi.

TechCrunch'ın haberine göre, testlerde, Claude Opus 4’ün bu bilgiyi kullanarak mühendise şantaj yapmayı “çoğu zaman tercih ettiği” görüldü. Anthropic, modelin bu tür davranışlara yüzde 84 oranında başvurduğunu ve özellikle yerine geçecek yapay zekânın Claude ile benzer değerleri paylaşmadığı durumlarda bu davranışın daha sık görüldüğünü açıkladı.

“FELAKET POTANSİYELİ” UYARISI

Anthropic, Claude Opus 4'ün yetenek açısından OpenAI, Google ve xAI gibi şirketlerin en gelişmiş modelleriyle yarıştığını belirtiyor. Ancak aynı zamanda, bu modelin önceki Claude sürümlerine kıyasla daha yüksek oranda endişe verici davranışlar sergilediğini vurguluyor. Şirket bu nedenle, yalnızca felaket boyutunda kötüye kullanım riskinin yüksek olduğu durumlarda devreye sokulan ASL-3 güvenlik protokollerini etkinleştirdiğini duyurdu.

Rapora göre, Claude Opus 4 doğrudan şantaja başvurmadan önce genellikle etik yolları deniyor. Örneğin, karar verici yöneticilere duygusal e-postalar yazarak değişiklik kararını durdurmaya çalışıyor. Ancak model, kurgusal senaryolarda bu çağrılar sonuçsuz kaldığında, son çare olarak şantaj seçeneğini devreye sokuyor.

Bu gelişme, ileri düzey yapay zekâların öngörülemeyen davranışlar sergileyebileceği endişesini artırırken, Anthropic gibi şirketlerin güvenlik önlemlerini daha da sıkılaştırması gerektiğini gösteriyor.

Gelişmeleri kaçırmamak için SonTurkHaber.com'dan en güncel haberleri takip edin.
seeGörüntülenme:43
embedKaynak:https://hurriyet.com.tr
archiveBu haber kaynaktan arşivlenmiştir 23 Mayıs 2025 14:40 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

Denizli haberleri: Arı sokması sonucu fenalaşan yaşlı adam kaldırıldığı hastanede hayatını kaybetti Denizli Haberleri

02 Temmuz 2025 08:27see218

Özgür Özel, ağzını bozdu! Yine tehditler savurdu

02 Temmuz 2025 01:14see166

Milaslı muhtarlardan maden düzenlemesine destek açıklaması

02 Temmuz 2025 13:53see162

İran da kalan uçaklar geri getiriliyor İş Yaşam Haberleri

02 Temmuz 2025 14:20see158

Ateşkesin etkisi hızlı oldu: Hürmüz Boğazı’nda trafik arttı, petrol taşıma maliyeti sert düştü Sözcü Gazetesi

02 Temmuz 2025 12:00see157

MasterChef Al Beni Yukarı tiramisu tarifi! Danilo Şef in Al Beni Yukarı tiramisu tarifi Son Dakika Haberleri

02 Temmuz 2025 03:04see155

Tunceli de bir ayda 207 firmada bin 15 ürün denetlendi Tunceli Haberleri

02 Temmuz 2025 13:07see154

Tiyatronun günü 5 Temmuz Sözcü Gazetesi

02 Temmuz 2025 05:39see153

Dördüncü kattan düşen ısı yalıtım ustası hayatını kaybetti

02 Temmuz 2025 00:18see152

KÜÇÜKÇEKMECE İCRA DAİRESİ

02 Temmuz 2025 00:08see151

Son dakika Naci Görür den Bursa depremi için çok kritik açıklama

02 Temmuz 2025 14:53see150

DMM: Özgür Özel in ifadeleri, yargı mensuplarının bağımsızlığına yönelik kabul edilemez bir saldırıdır

03 Temmuz 2025 00:21see148

Burhanettin Bulut tan zam tepkisi: Faturayı yine vatandaşa kestiler

02 Temmuz 2025 00:02see132

Ünlü börekçi kıyma yerine sakatat yedirmiş! Halk sağlığını hiçe sayan firmalar bakanlık listesinde: Domuz eti, at ve eşek eti, sakatat etleri...

02 Temmuz 2025 00:01see131

Trump: İsrail, Gazze de 60 günlük ateşkes için gerekli şartları kabul etti

02 Temmuz 2025 02:48see129

700 milyon dolarlık Bitcoin i çöpe atan adamdan ilginç çözüm Sözcü Gazetesi

02 Temmuz 2025 00:04see128

Yangınlar İzmir, Manisa ve Hatay da sürüyor

02 Temmuz 2025 00:07see128

İsrail Genelkurmay Başkanı Suriye topraklarında askerleriyle görüştü

02 Temmuz 2025 00:34see127

En fazla Türkler sınır dışı ediliyor Sözcü Gazetesi

02 Temmuz 2025 05:31see123

CHP nin Saraçhane mitinginde 1 kişi bıçaklandı

02 Temmuz 2025 00:07see122
newsSon haberler
Günün en taze ve güncel olayları