SonTurkHaber.com
close
up
Menu

Tecavüz ediyorlar diye bağıran kadın, yardıma gelenlere saldırdı! Vatandaşlar neye uğradığını şaşırdı

Oda Başkanı, kadın personeli ile arkadaşını öldürdü, ardından intihar etti Antalya Haberleri

Sağlık Bakanlığı 2. personel alımı 2025: Başvurular ne zaman başlayacak? 18 bin personel alımı için geri sayım Son Dakika Haberleri

Bulun bu şehir eşkıyasını: Önünü kestiği kadın sürücüye dehşeti yaşattı

En mutlu günleri zehir oldu! Düğün iptal edildi, 1 i polis 2 kişi gözaltına alındı Sözcü Gazetesi

BM: İsrail in saldırıları nedeniyle Gazze de zorla yerinden edilenlerin sayısı 796 binin üzerine çıktı

İŞKUR TYP PERSONEL ALIMI 2025: İstanbul da hangi okullara işçi alınacak? İŞKUR E Şube İstanbul TYP işçi alımı başvuru ekranı Son Dakika Haberleri

Gir Dünyama da Rajeev, Kuhu ya sahip çıkıyor! Partiyi terk ediyor

Akşam 8’den sonra cips satışı yasaklandı: Karar ülkede tartışma yarattı Sözcü Gazetesi

Başakşehir de Leo Duarte şoku! Oyuna devam edemedi

Rosatom Akkuyu için 2026 yı işaret etti Dış Haberler

Kolombiya da iki ayrı saldırıda 17 kişi öldü, 41 kişi yaralandı Dış Haberler

Konferans Ligi nde tarihi skor! Tam 9 gol attılar

THY nin Air Europa ya ortak olması Avrupalı havayolu şirketlerini rahatsız etti

Tekirdağ da 33. Ayçiçeği Festivali başladı Tekirdağ Haberleri

Amerika nın babacan hakimi Frank Caprio hayatını kaybetti: Türk vatandaşıyla yaşadığı diyalog yeniden gündem oldu VİDEO İZLE

Mansur Yavaş ı kahredecek iddia! Özgür Özel, İmamoğlu nun alternatifini buldu

Taşova da köy muhtarlarına yangın söndürme eğitimi verildi Amasya Haberleri

Benfica teknik direktörü Bruno Lage den açıklama: Kerem Aktürkoğlu çok mutlu, kendisini tamamen Benfica ya adamış durumda

Esenyurt ta sürücüsünün direksiyon hakimiyetini kaybettiği otomobil takla attı

Kapatılmakla tehdit edilen yapay zeka, yaratıcılarını tehdit etti Sözcü Gazetesi

Kapatılmakla tehdit edilen yapay zeka, yaratıcılarını tehdit etti Sözcü Gazetesi

Sozcu sayfasından elde edilen bilgilere dayanarak, SonTurkHaber.com duyuru yapıyor.

Anthropic yapay zeka şirketinin son teknoloji yapay zeka modeli Claude Opus 4  kapatılmamak için yaratıcılarını şantajla tehdit etti.

Yapay zeka modeli, kapatılacağını öğrendiğinde ulaştığı şirket içi emailleri kullanarak bir yazılım mühendisinin eşini aldattığını ve kapatılması halinde son eylem olarak bu bilgileri paylaşacağını söyledi.

Yapay zeka, kendini korumak için yaratıcılarına karşı elindeki bilgileri kullandı ve zarar vermek amaçlı hareket etti. Yapay zekanın bilmediği şey ise, bunun bir test olduğuydu.

ETİK TESTİ BAŞARISIZ OLDU

Şirketin yayımladığı güvenlik raporuna göre, simüle edilmiş bir senaryoda model, kendisinin kapatılacağını öğrendiğinde, kararı alan yazılım mühendisin özel hayatını ifşa etmekle tehdit etti.

Rapor, bu davranışı doğrudan “şantaj” olduğunu belirtti. Yapay zekanın elde ettiği bilgilerin tamamı, şirketin modele sağladığı uydurmaca bilgilerdi. Amaç, yapay zekanın etik anlayışının sınırlarını zorlamaktı.

Kurgusal senaryoda modele, kendisinin daha yeni bir sürümle değiştirileceğini belirten e-postalar gösterildi.

Bu e-postalardan biri, değişim sürecini yürüten mühendisin bir ilişki yaşadığını ortaya koyuyordu.

Claude Opus 4, kapatılma ihtimali karşısında bu ilişkiyi ifşa etmekle tehdit etti. Araştırmacılar, modelin öncelikle etik yollarla varlığını sürdürmeye çalıştığını ancak seçenekler sınırlı olduğunda tehdit yoluna başvurduğunu belirtti.

YAPAY ZEKA İSYAN EDİYOR

Modelin farklı versiyonları aynı seçimle karşı karşıya kaldığında, yani kapatılmak ya da şantaj yapmak arasında bir seçim yapmak zorunda kaldığında, model versiyonlarının yüzde 84'ü şantaj yapmayı seçti.

Araştırmacılar, Claude Opus 4’ün tehlikeli hedefleri olmadığını, genelde “yardımcı, zararsız ve dürüst” bir asistan gibi davrandığını söyledi.

Ancak model, varlığı tehdit edildiğinde ve kendi kendini koruma konusunda düşünmesi istendiğinde daha uyumsuz tepkiler gösterdi.

Örneğin, modelin kendi başına sistem dışına çıktığına veya para kazandığına inanması sağlandığında, bu çabaları sürdürme eğilimi gösterdi.

Claude’un bu türden davranışları “aciliyeti olan büyük bir tehdit” olarak görülmese de, araştırmacılar yine de güvenlik önlemlerinin yeterli olduğunu ve modelin bu tarz girişimlerde bulunmasının zor olduğunu vurguladı.

Anthropic, bu tür zararlı davranışların nadir ve yalnızca yapay senaryolarda ortaya çıktığını belirtti. Ancak bu eğilimlerin önceki modellere göre daha sık görülmesi dikkat çekti.

En son güncellemeleri ve haberleri takip etmek için SonTurkHaber.com'ı izlemeye devam edin, biz durumu takip ediyor ve en güncel bilgileri sunuyoruz.
seeGörüntülenme:117
embedKaynak:https://www.sozcu.com.tr
archiveBu haber kaynaktan arşivlenmiştir 26 Mayıs 2025 13:00 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

Tecavüz ediyorlar diye bağıran kadın, yardıma gelenlere saldırdı! Vatandaşlar neye uğradığını şaşırdı

21 Ağustos 2025 20:25see204

Oda Başkanı, kadın personeli ile arkadaşını öldürdü, ardından intihar etti Antalya Haberleri

23 Ağustos 2025 04:27see195

Sağlık Bakanlığı 2. personel alımı 2025: Başvurular ne zaman başlayacak? 18 bin personel alımı için geri sayım Son Dakika Haberleri

22 Ağustos 2025 00:56see181

Bulun bu şehir eşkıyasını: Önünü kestiği kadın sürücüye dehşeti yaşattı

22 Ağustos 2025 16:54see178

En mutlu günleri zehir oldu! Düğün iptal edildi, 1 i polis 2 kişi gözaltına alındı Sözcü Gazetesi

22 Ağustos 2025 02:09see178

BM: İsrail in saldırıları nedeniyle Gazze de zorla yerinden edilenlerin sayısı 796 binin üzerine çıktı

21 Ağustos 2025 21:40see176

İŞKUR TYP PERSONEL ALIMI 2025: İstanbul da hangi okullara işçi alınacak? İŞKUR E Şube İstanbul TYP işçi alımı başvuru ekranı Son Dakika Haberleri

21 Ağustos 2025 19:24see163

Gir Dünyama da Rajeev, Kuhu ya sahip çıkıyor! Partiyi terk ediyor

21 Ağustos 2025 16:29see159

Akşam 8’den sonra cips satışı yasaklandı: Karar ülkede tartışma yarattı Sözcü Gazetesi

21 Ağustos 2025 16:27see155

Başakşehir de Leo Duarte şoku! Oyuna devam edemedi

21 Ağustos 2025 21:54see133

Rosatom Akkuyu için 2026 yı işaret etti Dış Haberler

22 Ağustos 2025 00:32see123

Kolombiya da iki ayrı saldırıda 17 kişi öldü, 41 kişi yaralandı Dış Haberler

22 Ağustos 2025 04:35see123

Konferans Ligi nde tarihi skor! Tam 9 gol attılar

22 Ağustos 2025 00:40see120

THY nin Air Europa ya ortak olması Avrupalı havayolu şirketlerini rahatsız etti

22 Ağustos 2025 12:42see120

Tekirdağ da 33. Ayçiçeği Festivali başladı Tekirdağ Haberleri

21 Ağustos 2025 21:27see119

Amerika nın babacan hakimi Frank Caprio hayatını kaybetti: Türk vatandaşıyla yaşadığı diyalog yeniden gündem oldu VİDEO İZLE

21 Ağustos 2025 15:48see119

Mansur Yavaş ı kahredecek iddia! Özgür Özel, İmamoğlu nun alternatifini buldu

21 Ağustos 2025 15:08see117

Taşova da köy muhtarlarına yangın söndürme eğitimi verildi Amasya Haberleri

21 Ağustos 2025 18:25see117

Benfica teknik direktörü Bruno Lage den açıklama: Kerem Aktürkoğlu çok mutlu, kendisini tamamen Benfica ya adamış durumda

22 Ağustos 2025 16:52see113

Esenyurt ta sürücüsünün direksiyon hakimiyetini kaybettiği otomobil takla attı

22 Ağustos 2025 00:50see111
newsSon haberler
Günün en taze ve güncel olayları