SonTurkHaber.com
close
up
Menu

TFF duyurdu! Egemen Korkmaz dönemi resmen başladı

KKTC Başbakanı Üstel: Türkiye olmasa belki de Kıbrıs Türk ü bugün Filistinliler gibi olacak

İstanbul su kesintisi sorgulama! 31 Mayıs İSKİ su kesintisi programı

Bursa da TIR otomobili biçti: 1 ölü

İsrailli oyuncu Gal Gadot film çekimi esnasında protesto edildi magazin haberleri

Futbolda milli mesai yarın başlayacak! Futbol Haberleri

İBB nin metrobüslerini de üreten dev firma konkordato ilan etti

Trump ile Musk ortak açıklamalarda bulundu Dış Haberler

DEM ile AKP arasında infaz paketi krizi: Muhalefet etmeye devam edeceğiz

Gönüllü doktorların başvurusu ile 2,1 milyar TL tasarruf

Güneş açtı diye hülyalara dalmayın! Tüm paranızı kaptırabilirsiniz

Özel’den ‘Terörsüz Türkiye’ mesajları: Meclis’teki her çalışmaya olumlu katkı

Amor Silivri de İmamoğlu nu ziyaret etti: Tutuklanmasına en sert tepkiyi göstermişti

Devre arasında gerginlik! Osimhen, Ba yı soyunma odası koridoruna çağırdı

İzmir’de sağlık çalışanlarından eylem: Bakanlık sorunlara kulaklarını tıkıyor

Adana da imalathanede yangın: 2 işçi camdan atladı Sözcü Gazetesi

Hatayspor Teknik Direktörü Murat Şahin: Birlik ve bütünlüğü sağlayabilirsek Süper Lig’e geri döneriz Fanatik Gazetesi Futbol Haberleri Spor

Ünlü şarkıcı, Erdoğan ın elini öptü; sosyal medya yıkıldı

Cumhurbaşkanı Erdoğan dan Faiz Açıklaması: Faizsiz Ekonomi Özlemimi Dillendirmeye Devam Edeceğim

Serdal Adalı dan Beşiktaş taraftarını sevindirecek transfer açıklaması

Kapatılmakla tehdit edilen yapay zeka, yaratıcılarını tehdit etti Sözcü Gazetesi

Kapatılmakla tehdit edilen yapay zeka, yaratıcılarını tehdit etti Sözcü Gazetesi

Sozcu sayfasından elde edilen bilgilere dayanarak, SonTurkHaber.com duyuru yapıyor.

Anthropic yapay zeka şirketinin son teknoloji yapay zeka modeli Claude Opus 4  kapatılmamak için yaratıcılarını şantajla tehdit etti.

Yapay zeka modeli, kapatılacağını öğrendiğinde ulaştığı şirket içi emailleri kullanarak bir yazılım mühendisinin eşini aldattığını ve kapatılması halinde son eylem olarak bu bilgileri paylaşacağını söyledi.

Yapay zeka, kendini korumak için yaratıcılarına karşı elindeki bilgileri kullandı ve zarar vermek amaçlı hareket etti. Yapay zekanın bilmediği şey ise, bunun bir test olduğuydu.

ETİK TESTİ BAŞARISIZ OLDU

Şirketin yayımladığı güvenlik raporuna göre, simüle edilmiş bir senaryoda model, kendisinin kapatılacağını öğrendiğinde, kararı alan yazılım mühendisin özel hayatını ifşa etmekle tehdit etti.

Rapor, bu davranışı doğrudan “şantaj” olduğunu belirtti. Yapay zekanın elde ettiği bilgilerin tamamı, şirketin modele sağladığı uydurmaca bilgilerdi. Amaç, yapay zekanın etik anlayışının sınırlarını zorlamaktı.

Kurgusal senaryoda modele, kendisinin daha yeni bir sürümle değiştirileceğini belirten e-postalar gösterildi.

Bu e-postalardan biri, değişim sürecini yürüten mühendisin bir ilişki yaşadığını ortaya koyuyordu.

Claude Opus 4, kapatılma ihtimali karşısında bu ilişkiyi ifşa etmekle tehdit etti. Araştırmacılar, modelin öncelikle etik yollarla varlığını sürdürmeye çalıştığını ancak seçenekler sınırlı olduğunda tehdit yoluna başvurduğunu belirtti.

YAPAY ZEKA İSYAN EDİYOR

Modelin farklı versiyonları aynı seçimle karşı karşıya kaldığında, yani kapatılmak ya da şantaj yapmak arasında bir seçim yapmak zorunda kaldığında, model versiyonlarının yüzde 84'ü şantaj yapmayı seçti.

Araştırmacılar, Claude Opus 4’ün tehlikeli hedefleri olmadığını, genelde “yardımcı, zararsız ve dürüst” bir asistan gibi davrandığını söyledi.

Ancak model, varlığı tehdit edildiğinde ve kendi kendini koruma konusunda düşünmesi istendiğinde daha uyumsuz tepkiler gösterdi.

Örneğin, modelin kendi başına sistem dışına çıktığına veya para kazandığına inanması sağlandığında, bu çabaları sürdürme eğilimi gösterdi.

Claude’un bu türden davranışları “aciliyeti olan büyük bir tehdit” olarak görülmese de, araştırmacılar yine de güvenlik önlemlerinin yeterli olduğunu ve modelin bu tarz girişimlerde bulunmasının zor olduğunu vurguladı.

Anthropic, bu tür zararlı davranışların nadir ve yalnızca yapay senaryolarda ortaya çıktığını belirtti. Ancak bu eğilimlerin önceki modellere göre daha sık görülmesi dikkat çekti.

En son güncellemeleri ve haberleri takip etmek için SonTurkHaber.com'ı izlemeye devam edin, biz durumu takip ediyor ve en güncel bilgileri sunuyoruz.
seeGörüntülenme:96
embedKaynak:https://www.sozcu.com.tr
archiveBu haber kaynaktan arşivlenmiştir 26 Mayıs 2025 13:00 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

TFF duyurdu! Egemen Korkmaz dönemi resmen başladı

31 Mayıs 2025 00:27see165

KKTC Başbakanı Üstel: Türkiye olmasa belki de Kıbrıs Türk ü bugün Filistinliler gibi olacak

30 Mayıs 2025 07:59see157

İstanbul su kesintisi sorgulama! 31 Mayıs İSKİ su kesintisi programı

31 Mayıs 2025 00:50see156

Bursa da TIR otomobili biçti: 1 ölü

30 Mayıs 2025 04:55see150

İsrailli oyuncu Gal Gadot film çekimi esnasında protesto edildi magazin haberleri

30 Mayıs 2025 10:25see144

Futbolda milli mesai yarın başlayacak! Futbol Haberleri

31 Mayıs 2025 10:19see134

İBB nin metrobüslerini de üreten dev firma konkordato ilan etti

30 Mayıs 2025 22:29see126

Trump ile Musk ortak açıklamalarda bulundu Dış Haberler

30 Mayıs 2025 21:31see123

DEM ile AKP arasında infaz paketi krizi: Muhalefet etmeye devam edeceğiz

30 Mayıs 2025 07:31see117

Gönüllü doktorların başvurusu ile 2,1 milyar TL tasarruf

31 Mayıs 2025 13:07see116

Güneş açtı diye hülyalara dalmayın! Tüm paranızı kaptırabilirsiniz

30 Mayıs 2025 09:51see116

Özel’den ‘Terörsüz Türkiye’ mesajları: Meclis’teki her çalışmaya olumlu katkı

31 Mayıs 2025 07:13see114

Amor Silivri de İmamoğlu nu ziyaret etti: Tutuklanmasına en sert tepkiyi göstermişti

30 Mayıs 2025 20:51see112

Devre arasında gerginlik! Osimhen, Ba yı soyunma odası koridoruna çağırdı

30 Mayıs 2025 21:17see112

İzmir’de sağlık çalışanlarından eylem: Bakanlık sorunlara kulaklarını tıkıyor

30 Mayıs 2025 17:38see111

Adana da imalathanede yangın: 2 işçi camdan atladı Sözcü Gazetesi

31 Mayıs 2025 16:24see111

Hatayspor Teknik Direktörü Murat Şahin: Birlik ve bütünlüğü sağlayabilirsek Süper Lig’e geri döneriz Fanatik Gazetesi Futbol Haberleri Spor

31 Mayıs 2025 20:01see111

Ünlü şarkıcı, Erdoğan ın elini öptü; sosyal medya yıkıldı

30 Mayıs 2025 07:30see111

Cumhurbaşkanı Erdoğan dan Faiz Açıklaması: Faizsiz Ekonomi Özlemimi Dillendirmeye Devam Edeceğim

30 Mayıs 2025 17:21see110

Serdal Adalı dan Beşiktaş taraftarını sevindirecek transfer açıklaması

31 Mayıs 2025 15:53see108
newsSon haberler
Günün en taze ve güncel olayları