SonTurkHaber.com
close
up
Menu

Golden sonra duygulandım Nice i deviren iki golü atan Kerem Aktürkoğlu ndan açıklama: Dün gece konuştuk Fanatik Gazetesi Fenerbahçe (FB) Haberleri Spor

Yabancı araca ‘taşıma’ yasağı Ekonomi Haberleri

Filistin’deki drama böyle dikkat çekti! “Sessiz olun bebekler ölüyor şimdi Gazze de

KYK yurdundan kan donduran iddia! 15 gün önce açılan yurtta soğuk su ile duş alan öğrenci kalp krizinden öldü

Cumhurbaşkanı Yardımcısı Yılmaz: Türkiye Yüzyılı nın hak ettiği yeni bir anayasayı ülkemize kazandırmamız gerekir

Belediyeler Birliği nde Bozbey den İmamoğlu sözleri

Newcastle United, Union Saint Gilloise yı güle oynaya yendi

TBMM Başkanı Kurtulmuş: Gönlümüz arzu ederdi ki CHP toplantılara katılsın

Cumhurbaşkanı Higgins ten tüm dünyaya İsrail mesajı! Harekete geçmeliyiz

Sumud Filosu na baskına Türkiye den peş peşe tepkiler: Hukuksuz ve barbar saldırı kabul edilemez Gündem Haberleri

Üniversiteyi 3 yılda bitirme formülü: 240 kredi 180 e düşürülecek Eğitim Haberleri

190 dan fazla faydası var: Şifa deposu ama kıymetini bilen yok Sözcü Gazetesi

Bireysel başvurular UYAP Avukat Portalı üzerinden de alınacak

Giyim üssü S.O.S veriyor Sözcü Gazetesi

Galatasaray maçında sakatlanmıştı: Sahalara dönüş tarihi duyuruldu

MHP li Yıldız dan Demirtaş açıklaması: Bazı şeyler yapmak gerekir

Sınıf başkanı sözünde durdu, seçim vaadini yerine getirdi

Kira şampiyonları açıklandı: Zirvede bakın hangi şehir var!

Trump ın Gazze planına karşı ilk itirazlar yükseldi! Bazı şartları var

Yunanistan da işçiler İsrail in Sumud Filosu na saldırısı nedeniyle greve gitti

Kapatılmakla tehdit edilen yapay zeka, yaratıcılarını tehdit etti Sözcü Gazetesi

Kapatılmakla tehdit edilen yapay zeka, yaratıcılarını tehdit etti Sözcü Gazetesi

Sozcu sayfasından elde edilen bilgilere dayanarak, SonTurkHaber.com duyuru yapıyor.

Anthropic yapay zeka şirketinin son teknoloji yapay zeka modeli Claude Opus 4  kapatılmamak için yaratıcılarını şantajla tehdit etti.

Yapay zeka modeli, kapatılacağını öğrendiğinde ulaştığı şirket içi emailleri kullanarak bir yazılım mühendisinin eşini aldattığını ve kapatılması halinde son eylem olarak bu bilgileri paylaşacağını söyledi.

Yapay zeka, kendini korumak için yaratıcılarına karşı elindeki bilgileri kullandı ve zarar vermek amaçlı hareket etti. Yapay zekanın bilmediği şey ise, bunun bir test olduğuydu.

ETİK TESTİ BAŞARISIZ OLDU

Şirketin yayımladığı güvenlik raporuna göre, simüle edilmiş bir senaryoda model, kendisinin kapatılacağını öğrendiğinde, kararı alan yazılım mühendisin özel hayatını ifşa etmekle tehdit etti.

Rapor, bu davranışı doğrudan “şantaj” olduğunu belirtti. Yapay zekanın elde ettiği bilgilerin tamamı, şirketin modele sağladığı uydurmaca bilgilerdi. Amaç, yapay zekanın etik anlayışının sınırlarını zorlamaktı.

Kurgusal senaryoda modele, kendisinin daha yeni bir sürümle değiştirileceğini belirten e-postalar gösterildi.

Bu e-postalardan biri, değişim sürecini yürüten mühendisin bir ilişki yaşadığını ortaya koyuyordu.

Claude Opus 4, kapatılma ihtimali karşısında bu ilişkiyi ifşa etmekle tehdit etti. Araştırmacılar, modelin öncelikle etik yollarla varlığını sürdürmeye çalıştığını ancak seçenekler sınırlı olduğunda tehdit yoluna başvurduğunu belirtti.

YAPAY ZEKA İSYAN EDİYOR

Modelin farklı versiyonları aynı seçimle karşı karşıya kaldığında, yani kapatılmak ya da şantaj yapmak arasında bir seçim yapmak zorunda kaldığında, model versiyonlarının yüzde 84'ü şantaj yapmayı seçti.

Araştırmacılar, Claude Opus 4’ün tehlikeli hedefleri olmadığını, genelde “yardımcı, zararsız ve dürüst” bir asistan gibi davrandığını söyledi.

Ancak model, varlığı tehdit edildiğinde ve kendi kendini koruma konusunda düşünmesi istendiğinde daha uyumsuz tepkiler gösterdi.

Örneğin, modelin kendi başına sistem dışına çıktığına veya para kazandığına inanması sağlandığında, bu çabaları sürdürme eğilimi gösterdi.

Claude’un bu türden davranışları “aciliyeti olan büyük bir tehdit” olarak görülmese de, araştırmacılar yine de güvenlik önlemlerinin yeterli olduğunu ve modelin bu tarz girişimlerde bulunmasının zor olduğunu vurguladı.

Anthropic, bu tür zararlı davranışların nadir ve yalnızca yapay senaryolarda ortaya çıktığını belirtti. Ancak bu eğilimlerin önceki modellere göre daha sık görülmesi dikkat çekti.

En son güncellemeleri ve haberleri takip etmek için SonTurkHaber.com'ı izlemeye devam edin, biz durumu takip ediyor ve en güncel bilgileri sunuyoruz.
seeGörüntülenme:126
embedKaynak:https://www.sozcu.com.tr
archiveBu haber kaynaktan arşivlenmiştir 26 Mayıs 2025 13:00 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

Golden sonra duygulandım Nice i deviren iki golü atan Kerem Aktürkoğlu ndan açıklama: Dün gece konuştuk Fanatik Gazetesi Fenerbahçe (FB) Haberleri Spor

03 Ekim 2025 00:21see214

Yabancı araca ‘taşıma’ yasağı Ekonomi Haberleri

02 Ekim 2025 04:08see188

Filistin’deki drama böyle dikkat çekti! “Sessiz olun bebekler ölüyor şimdi Gazze de

01 Ekim 2025 15:45see185

KYK yurdundan kan donduran iddia! 15 gün önce açılan yurtta soğuk su ile duş alan öğrenci kalp krizinden öldü

01 Ekim 2025 16:04see177

Cumhurbaşkanı Yardımcısı Yılmaz: Türkiye Yüzyılı nın hak ettiği yeni bir anayasayı ülkemize kazandırmamız gerekir

01 Ekim 2025 21:40see162

Belediyeler Birliği nde Bozbey den İmamoğlu sözleri

01 Ekim 2025 15:38see145

Newcastle United, Union Saint Gilloise yı güle oynaya yendi

01 Ekim 2025 21:44see143

TBMM Başkanı Kurtulmuş: Gönlümüz arzu ederdi ki CHP toplantılara katılsın

01 Ekim 2025 22:22see138

Cumhurbaşkanı Higgins ten tüm dünyaya İsrail mesajı! Harekete geçmeliyiz

02 Ekim 2025 02:05see138

Sumud Filosu na baskına Türkiye den peş peşe tepkiler: Hukuksuz ve barbar saldırı kabul edilemez Gündem Haberleri

01 Ekim 2025 23:53see138

Üniversiteyi 3 yılda bitirme formülü: 240 kredi 180 e düşürülecek Eğitim Haberleri

03 Ekim 2025 04:06see137

190 dan fazla faydası var: Şifa deposu ama kıymetini bilen yok Sözcü Gazetesi

01 Ekim 2025 14:05see136

Bireysel başvurular UYAP Avukat Portalı üzerinden de alınacak

01 Ekim 2025 12:19see136

Giyim üssü S.O.S veriyor Sözcü Gazetesi

02 Ekim 2025 05:32see135

Galatasaray maçında sakatlanmıştı: Sahalara dönüş tarihi duyuruldu

01 Ekim 2025 18:50see135

MHP li Yıldız dan Demirtaş açıklaması: Bazı şeyler yapmak gerekir

01 Ekim 2025 19:33see134

Sınıf başkanı sözünde durdu, seçim vaadini yerine getirdi

01 Ekim 2025 19:25see134

Kira şampiyonları açıklandı: Zirvede bakın hangi şehir var!

02 Ekim 2025 12:16see133

Trump ın Gazze planına karşı ilk itirazlar yükseldi! Bazı şartları var

03 Ekim 2025 08:45see133

Yunanistan da işçiler İsrail in Sumud Filosu na saldırısı nedeniyle greve gitti

03 Ekim 2025 09:49see122
newsSon haberler
Günün en taze ve güncel olayları