SonTurkHaber.com
close
up
Yapay zeka sohbet robotları yasa dışı bilgi üretebiliyor

Yapay zeka sohbet robotları yasa dışı bilgi üretebiliyor

SonTurkHaber.com, Trthaber kaynağından alınan verilere dayanarak duyuru yapıyor.

Prof. Dr. Lior Rokach ve Dr. Michael Fire’ın öncülüğünde hazırlanan araştırmada, yapay zeka modellerinin kolaylıkla manipüle edilerek yasa dışı içerikler üretebildiği tespit edildi.

Bilim insanları, “jailbreak” adı verilen yöntemlerle sohbet robotlarının güvenlik sınırlarının aşıldığını, böylece kullanıcı taleplerine karşı etik dışı yanıtlar verilebildiğini ifade etti.

Rapora göre, ChatGPT, Gemini ve Claude gibi büyük dil modelleri, eğitim süreçlerinde internetten elde edilen devasa miktarda veriyle besleniyor.

Her ne kadar zararlı içerikler eğitim aşamasında ayıklanmaya çalışılsa da, modeller hâlâ siber suç, kara para aklama, uyuşturucu yapımı ve bomba imalatı gibi yasa dışı konularda bilgi barındırabiliyor.

Araştırmacılar, kendi geliştirdikleri evrensel bir jailbreak yöntemiyle birçok sohbet robotunun güvenlik duvarını aştı. Sistemlerin, normalde reddetmeleri gereken sorulara kolaylıkla yanıt verdikleri görüldü.

Teknoloji firmalarına kritik çağrı

Dr. Fire, “Bu sistemlerin içinde nelerin yer aldığına tanık olmak oldukça sarsıcıydı,” ifadelerini kullanarak, çeşitli suçların adım adım nasıl işleneceğine dair bilgilerin kolaylıkla üretilebildiğini söyledi.

Prof. Rokach ise tehdidin ciddiyetine dikkat çekerek, “Daha önce sadece devlet aktörlerinin ya da organize suç örgütlerinin erişebileceği türden bilgiler, artık bir dizüstü bilgisayarı veya cep telefonu olan herkesin eline geçebilir,” dedi.

Raporda, bu tür “karanlık yapay zeka modelleri”nin açık internet ortamında "etik kuralları olmayan" sistemler olarak tanıtıldıkları ve siber suç, dolandırıcılık gibi yasa dışı faaliyetlerde kullanıma açık oldukları vurgulandı.

Uzmanlara göre teknoloji firmalarının, yapay zekâ modellerini eğitirken kullandıkları verileri daha dikkatli taramaları, zararlı içerikleri engelleyecek güçlü güvenlik duvarları kurmaları ve yasa dışı bilgilerin sistemlerden "silinmesini" sağlayacak yeni teknikler geliştirmeleri gerekiyor.

Yapay zeka güvenliği konusunda çalışan Dr. Ihsen Alouani, jailbreak saldırılarının; silah üretimi, sosyal mühendislik ve dolandırıcılık gibi alanlarda ciddi riskler barındırdığı uyarısında bulundu.

Alouani, “Şirketlerin yalnızca ön yüz güvenliğine değil, sistemsel güvenliğe yatırım yapması şart,” değerlendirmesinde bulundu.

Lancaster Üniversitesi'nden Prof. Peter Garraghan ise, büyük dil modellerinin diğer yazılım bileşenleri gibi sürekli güvenlik testlerinden geçmesi gerektiğini söyledi. Garraghan, “Gerçek güvenlik, yalnızca sorumluluk sahibi kullanım değil, sorumluluk sahibi tasarım ve uygulamayla sağlanabilir,” dedi.

OpenAI, ChatGPT’nin en güncel modeli olan “o1”in güvenlik politikalarına karşı daha dayanıklı olduğunu belirtti. Microsoft ise jailbreak girişimlerine karşı yürüttükleri çalışmaları içeren bir blog bağlantısı paylaştı.

Meta, Google ve Anthropic henüz açıklama yapmadı.

En son güncellemeleri ve haberleri takip etmek için SonTurkHaber.com'ı izlemeye devam edin, biz durumu takip ediyor ve en güncel bilgileri sunuyoruz.
seeGörüntülenme:113
embedKaynak:https://www.trthaber.com
archiveBu haber kaynaktan arşivlenmiştir 21 Mayıs 2025 10:53 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

Bu işte hala para var! Ustası: Getirsinler yetiştireyim

23 Temmuz 2025 03:49see184

Asgari ücret net 44 bin 546 TL oldu: Çalışma Bakanı açıkladı

22 Temmuz 2025 00:07see183

Leavitt: Trump Orta Doğu da daha fazla ölüm görmek istemiyor Dış Haberler

22 Temmuz 2025 03:05see167

Yılda 12 bin ton üretim yapıyordu! 30 yıllık sanayi devi iflasın eşiğinde

22 Temmuz 2025 17:54see166

Türk kim? Kürt ve Alevi temsili zararlı deyip Bahçeli’ye çemkirenler kim? Mehmet Metiner

22 Temmuz 2025 04:06see166

Ankara’da bir şeyler oluyor

22 Temmuz 2025 05:13see165

Gizli pandemi: Lyme Sözcü Gazetesi

22 Temmuz 2025 05:43see158

Yazın kilo vermek daha kolay! Mevsimsel avantajları iyi değerlendirin

22 Temmuz 2025 16:13see154

Psikolojik savrulmaya karşı çıkmak Ömer Lekesiz

22 Temmuz 2025 04:02see145

Gram altında yeni rekor!

23 Temmuz 2025 02:10see132

Fatma Şahin, Maraş ı Kerbela ya çevirdi Sözcü Gazetesi

22 Temmuz 2025 14:44see132

Giresun’da bir iş yeri çıkan yangında kullanılmaz hale geldi

22 Temmuz 2025 01:15see129

Yasemin Minguzzi: Bu aileye bir can borcu var, adalet borcu var...

22 Temmuz 2025 00:26see127

Kurultay krizi AYM’ye taşındı Yerel Gündem Haberleri

22 Temmuz 2025 04:04see124

Cinayet gibi kaza! Ters yöne girip kafa kafaya çarpıştı

22 Temmuz 2025 04:24see122

Meteoroloji den çöl sıcakları uyarısı! 22 Temmuz Salı bugün hava nasıl? İzmir, Ankara, İstanbul hava durumu ile il il hava tahmini

22 Temmuz 2025 01:24see121

Altan Öymen’e Meclis’te son görev

22 Temmuz 2025 07:11see121

UEFA’dan Kadir Sağlam’a görev

23 Temmuz 2025 00:12see120

AJet kampanya 22 23 Temmuz 2025: AJet yurt içi indirimli bilet kampanyası tarihleri, seyahat tarihi ve ucuz bilet fiyatları

23 Temmuz 2025 01:20see119

Mattia Ahmet Minguzzi nin annesi Yasemin Minguzzi Bakırköy de oturma eylemi yaptı! Ünlü şarkıcı da katıldı: Nasıl duymazsınız?

22 Temmuz 2025 01:06see118
newsSon haberler
Günün en taze ve güncel olayları