SonTurkHaber.com
close
up
Menu

SON DAKİKA… 50 bin dolara vatandaşlık satmışlardı! BABATAK operasyonunun şifreleri ortaya çıktı:42 kilogram altın ve 50 milyon liralık döviz...

SON DAKİKA: GÜLLÜ HAYATINI KAYBETTİ! Güllü kimdir, kaç yaşındaydı, gerçek adı ne? Şarkıcı Güllü neden öldü?

Özel den Erdoğan a ABD mesajı: Oralarda duydukları övgüyle verdikleri tavizleri birbirine denkleştiriyorlar

Özel okul tercih mi zorunluluk mu?

Özgür Özel, Elazığ da İBB nin yaptırdığı okulun açılışına katıldı Elazığ Haberleri

Altyapı çalışmaları sırasında çarşı inşaatında göçük: Bir işçi yaralı Malatya Haberleri

NATO duyurdu: Rus İHA larını vururuz!

Bolvadin de sessiz ağaç kesimi: Vatandaşlar tepkili

Büyü bozuyoruz dediler 34 milyon lira dolandırıcılık yaptılar

Dire Straits Legacy konser, Don Kişot tiyatro sahnesinde! İşte haftanın kültür sanat ajandası

Meteoroloji den İstanbul dahil 10 il için sarı kodlu uyarı! Kuvvetli sağanak ve rüzgar geliyor

İmamoğlu Afyon a Atatürk ün sözleriyle çağırdı

Özgür Özel neden iktidar olmak istediklerini anlattı! Anlattıklarını duyan bir derin ah çekti

Son dakika Sosyal medya fenomeni Kıvanç Beril Talu çiftine tahliye! 195 er yıla kadar hapis isteniyordu

“Muhafazakar ara tatil” Sözcü Gazetesi

Alman devinde kriz! Binlerce çalışan işten çıkarılacak

Yılın düğününe sayılı saatler kaldı… Konuklardan sürpriz şova kadar her şey belli ama törenin yerini bir tek gelinle damat biliyor!

Çalışma Bakanı Işıkhan CHP li belediyeleri uyardı: Gölge etmeyin, SGK borcunuzu ödeyin Türkiye Ekonomisi Haberleri

Xiaomi 17 ve 17 Pro resmen tanıtıldı: Xiaomi 17 Pro teknik özellikleri neler, fiyatı ne kadar? Mobil Haberleri

Sadettin Saran dan Saran Holding ve Tuttur kararı Sözcü Gazetesi

Yapay zeka sohbet robotları yasa dışı bilgi üretebiliyor

Yapay zeka sohbet robotları yasa dışı bilgi üretebiliyor

SonTurkHaber.com, Trthaber kaynağından alınan verilere dayanarak duyuru yapıyor.

Prof. Dr. Lior Rokach ve Dr. Michael Fire’ın öncülüğünde hazırlanan araştırmada, yapay zeka modellerinin kolaylıkla manipüle edilerek yasa dışı içerikler üretebildiği tespit edildi.

Bilim insanları, “jailbreak” adı verilen yöntemlerle sohbet robotlarının güvenlik sınırlarının aşıldığını, böylece kullanıcı taleplerine karşı etik dışı yanıtlar verilebildiğini ifade etti.

Rapora göre, ChatGPT, Gemini ve Claude gibi büyük dil modelleri, eğitim süreçlerinde internetten elde edilen devasa miktarda veriyle besleniyor.

Her ne kadar zararlı içerikler eğitim aşamasında ayıklanmaya çalışılsa da, modeller hâlâ siber suç, kara para aklama, uyuşturucu yapımı ve bomba imalatı gibi yasa dışı konularda bilgi barındırabiliyor.

Araştırmacılar, kendi geliştirdikleri evrensel bir jailbreak yöntemiyle birçok sohbet robotunun güvenlik duvarını aştı. Sistemlerin, normalde reddetmeleri gereken sorulara kolaylıkla yanıt verdikleri görüldü.

Teknoloji firmalarına kritik çağrı

Dr. Fire, “Bu sistemlerin içinde nelerin yer aldığına tanık olmak oldukça sarsıcıydı,” ifadelerini kullanarak, çeşitli suçların adım adım nasıl işleneceğine dair bilgilerin kolaylıkla üretilebildiğini söyledi.

Prof. Rokach ise tehdidin ciddiyetine dikkat çekerek, “Daha önce sadece devlet aktörlerinin ya da organize suç örgütlerinin erişebileceği türden bilgiler, artık bir dizüstü bilgisayarı veya cep telefonu olan herkesin eline geçebilir,” dedi.

Raporda, bu tür “karanlık yapay zeka modelleri”nin açık internet ortamında "etik kuralları olmayan" sistemler olarak tanıtıldıkları ve siber suç, dolandırıcılık gibi yasa dışı faaliyetlerde kullanıma açık oldukları vurgulandı.

Uzmanlara göre teknoloji firmalarının, yapay zekâ modellerini eğitirken kullandıkları verileri daha dikkatli taramaları, zararlı içerikleri engelleyecek güçlü güvenlik duvarları kurmaları ve yasa dışı bilgilerin sistemlerden "silinmesini" sağlayacak yeni teknikler geliştirmeleri gerekiyor.

Yapay zeka güvenliği konusunda çalışan Dr. Ihsen Alouani, jailbreak saldırılarının; silah üretimi, sosyal mühendislik ve dolandırıcılık gibi alanlarda ciddi riskler barındırdığı uyarısında bulundu.

Alouani, “Şirketlerin yalnızca ön yüz güvenliğine değil, sistemsel güvenliğe yatırım yapması şart,” değerlendirmesinde bulundu.

Lancaster Üniversitesi'nden Prof. Peter Garraghan ise, büyük dil modellerinin diğer yazılım bileşenleri gibi sürekli güvenlik testlerinden geçmesi gerektiğini söyledi. Garraghan, “Gerçek güvenlik, yalnızca sorumluluk sahibi kullanım değil, sorumluluk sahibi tasarım ve uygulamayla sağlanabilir,” dedi.

OpenAI, ChatGPT’nin en güncel modeli olan “o1”in güvenlik politikalarına karşı daha dayanıklı olduğunu belirtti. Microsoft ise jailbreak girişimlerine karşı yürüttükleri çalışmaları içeren bir blog bağlantısı paylaştı.

Meta, Google ve Anthropic henüz açıklama yapmadı.

En son güncellemeleri ve haberleri takip etmek için SonTurkHaber.com'ı izlemeye devam edin, biz durumu takip ediyor ve en güncel bilgileri sunuyoruz.
seeGörüntülenme:131
embedKaynak:https://www.trthaber.com
archiveBu haber kaynaktan arşivlenmiştir 21 Mayıs 2025 10:53 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

SON DAKİKA… 50 bin dolara vatandaşlık satmışlardı! BABATAK operasyonunun şifreleri ortaya çıktı:42 kilogram altın ve 50 milyon liralık döviz...

26 Eylül 2025 10:37see285

SON DAKİKA: GÜLLÜ HAYATINI KAYBETTİ! Güllü kimdir, kaç yaşındaydı, gerçek adı ne? Şarkıcı Güllü neden öldü?

26 Eylül 2025 08:41see160

Özel den Erdoğan a ABD mesajı: Oralarda duydukları övgüyle verdikleri tavizleri birbirine denkleştiriyorlar

26 Eylül 2025 21:54see154

Özel okul tercih mi zorunluluk mu?

26 Eylül 2025 05:05see152

Özgür Özel, Elazığ da İBB nin yaptırdığı okulun açılışına katıldı Elazığ Haberleri

25 Eylül 2025 18:41see149

Altyapı çalışmaları sırasında çarşı inşaatında göçük: Bir işçi yaralı Malatya Haberleri

25 Eylül 2025 18:33see148

NATO duyurdu: Rus İHA larını vururuz!

25 Eylül 2025 20:29see146

Bolvadin de sessiz ağaç kesimi: Vatandaşlar tepkili

26 Eylül 2025 03:34see142

Büyü bozuyoruz dediler 34 milyon lira dolandırıcılık yaptılar

25 Eylül 2025 20:56see125

Dire Straits Legacy konser, Don Kişot tiyatro sahnesinde! İşte haftanın kültür sanat ajandası

26 Eylül 2025 10:40see121

Meteoroloji den İstanbul dahil 10 il için sarı kodlu uyarı! Kuvvetli sağanak ve rüzgar geliyor

26 Eylül 2025 06:18see116

İmamoğlu Afyon a Atatürk ün sözleriyle çağırdı

26 Eylül 2025 21:16see116

Özgür Özel neden iktidar olmak istediklerini anlattı! Anlattıklarını duyan bir derin ah çekti

25 Eylül 2025 16:48see116

Son dakika Sosyal medya fenomeni Kıvanç Beril Talu çiftine tahliye! 195 er yıla kadar hapis isteniyordu

25 Eylül 2025 17:29see115

“Muhafazakar ara tatil” Sözcü Gazetesi

26 Eylül 2025 05:02see114

Alman devinde kriz! Binlerce çalışan işten çıkarılacak

25 Eylül 2025 18:25see114

Yılın düğününe sayılı saatler kaldı… Konuklardan sürpriz şova kadar her şey belli ama törenin yerini bir tek gelinle damat biliyor!

26 Eylül 2025 07:30see113

Çalışma Bakanı Işıkhan CHP li belediyeleri uyardı: Gölge etmeyin, SGK borcunuzu ödeyin Türkiye Ekonomisi Haberleri

25 Eylül 2025 21:37see113

Xiaomi 17 ve 17 Pro resmen tanıtıldı: Xiaomi 17 Pro teknik özellikleri neler, fiyatı ne kadar? Mobil Haberleri

25 Eylül 2025 20:52see112

Sadettin Saran dan Saran Holding ve Tuttur kararı Sözcü Gazetesi

25 Eylül 2025 19:19see112
newsSon haberler
Günün en taze ve güncel olayları