SonTurkHaber.com
close
up
Yapay zeka sohbet robotları yasa dışı bilgi üretebiliyor

Yapay zeka sohbet robotları yasa dışı bilgi üretebiliyor

Trthaber sayfasından alınan verilere dayanarak, SonTurkHaber.com duyuru yapıyor.

Prof. Dr. Lior Rokach ve Dr. Michael Fire’ın öncülüğünde hazırlanan araştırmada, yapay zeka modellerinin kolaylıkla manipüle edilerek yasa dışı içerikler üretebildiği tespit edildi.

Bilim insanları, “jailbreak” adı verilen yöntemlerle sohbet robotlarının güvenlik sınırlarının aşıldığını, böylece kullanıcı taleplerine karşı etik dışı yanıtlar verilebildiğini ifade etti.

Rapora göre, ChatGPT, Gemini ve Claude gibi büyük dil modelleri, eğitim süreçlerinde internetten elde edilen devasa miktarda veriyle besleniyor.

Her ne kadar zararlı içerikler eğitim aşamasında ayıklanmaya çalışılsa da, modeller hâlâ siber suç, kara para aklama, uyuşturucu yapımı ve bomba imalatı gibi yasa dışı konularda bilgi barındırabiliyor.

Araştırmacılar, kendi geliştirdikleri evrensel bir jailbreak yöntemiyle birçok sohbet robotunun güvenlik duvarını aştı. Sistemlerin, normalde reddetmeleri gereken sorulara kolaylıkla yanıt verdikleri görüldü.

Teknoloji firmalarına kritik çağrı

Dr. Fire, “Bu sistemlerin içinde nelerin yer aldığına tanık olmak oldukça sarsıcıydı,” ifadelerini kullanarak, çeşitli suçların adım adım nasıl işleneceğine dair bilgilerin kolaylıkla üretilebildiğini söyledi.

Prof. Rokach ise tehdidin ciddiyetine dikkat çekerek, “Daha önce sadece devlet aktörlerinin ya da organize suç örgütlerinin erişebileceği türden bilgiler, artık bir dizüstü bilgisayarı veya cep telefonu olan herkesin eline geçebilir,” dedi.

Raporda, bu tür “karanlık yapay zeka modelleri”nin açık internet ortamında "etik kuralları olmayan" sistemler olarak tanıtıldıkları ve siber suç, dolandırıcılık gibi yasa dışı faaliyetlerde kullanıma açık oldukları vurgulandı.

Uzmanlara göre teknoloji firmalarının, yapay zekâ modellerini eğitirken kullandıkları verileri daha dikkatli taramaları, zararlı içerikleri engelleyecek güçlü güvenlik duvarları kurmaları ve yasa dışı bilgilerin sistemlerden "silinmesini" sağlayacak yeni teknikler geliştirmeleri gerekiyor.

Yapay zeka güvenliği konusunda çalışan Dr. Ihsen Alouani, jailbreak saldırılarının; silah üretimi, sosyal mühendislik ve dolandırıcılık gibi alanlarda ciddi riskler barındırdığı uyarısında bulundu.

Alouani, “Şirketlerin yalnızca ön yüz güvenliğine değil, sistemsel güvenliğe yatırım yapması şart,” değerlendirmesinde bulundu.

Lancaster Üniversitesi'nden Prof. Peter Garraghan ise, büyük dil modellerinin diğer yazılım bileşenleri gibi sürekli güvenlik testlerinden geçmesi gerektiğini söyledi. Garraghan, “Gerçek güvenlik, yalnızca sorumluluk sahibi kullanım değil, sorumluluk sahibi tasarım ve uygulamayla sağlanabilir,” dedi.

OpenAI, ChatGPT’nin en güncel modeli olan “o1”in güvenlik politikalarına karşı daha dayanıklı olduğunu belirtti. Microsoft ise jailbreak girişimlerine karşı yürüttükleri çalışmaları içeren bir blog bağlantısı paylaştı.

Meta, Google ve Anthropic henüz açıklama yapmadı.

En son güncellemeleri ve haberleri takip etmek için SonTurkHaber.com'ı izlemeye devam edin, biz durumu takip ediyor ve en güncel bilgileri sunuyoruz.
seeGörüntülenme:62
embedKaynak:https://www.trthaber.com
archiveBu haber kaynaktan arşivlenmiştir 21 Mayıs 2025 13:46 kaynağından arşivlendi
0 Yorum
Giriş yapın, yorum yapmak için...
Yayına ilk cevap veren siz olun...
topEn çok okunanlar
Şu anda en çok tartışılan olaylar

Uyuşturucu ticareti yapanlar İznik te yakalandı

30 Haziran 2025 18:51see141

Düzce haberleri Düzce de 41 genç hafız oldu 30 Haziran 2025

30 Haziran 2025 09:53see115

Rihanna nın bebeğinin cinsiyetini sevgilisi Rocky ağzından kaçırdı

01 Temmuz 2025 09:32see115

Çinli Leapmotor’dan 587 Bin Liralık Elektrikli Otomobil: B01 Ön Satışta

30 Haziran 2025 19:22see114

Gassal a İtalya dan ödül Kültür Sanat Haberleri

30 Haziran 2025 04:05see112

At gözlüğü Gökhan Özcan

30 Haziran 2025 04:05see112

İsrail in gizli planı ortaya çıktı: Yunanistan ile iş birliği içinde gerçekleşti

01 Temmuz 2025 12:53see112

İstanbul Emniyeti nden organize suç örgütüne 4 ilde operasyon: 14 tutuklu

30 Haziran 2025 19:23see112

Ciğerlerimiz yanıyor: İzmir, Manisa ve Antalya’da orman yangınları sürüyor

30 Haziran 2025 10:26see111

Bakan Güler, Senegal Silahlı Kuvvetler Komutanı ile görüştü

30 Haziran 2025 19:10see111

100 günü aşkın süredir hapiste olan İmamoğlu dan Erdoğan a tarihi fark

30 Haziran 2025 17:51see111

Abraham, atletizmi ve fizik gücüyle fark yaratır!

01 Temmuz 2025 08:37see110

İsrail Gazze de kafeteryaya sığınan sivilllere saldırdı

30 Haziran 2025 18:05see110

Antalya da 3 araç birbirine girdi! Ortalık savaş alanına döndü: 21 yaralı

01 Temmuz 2025 13:07see110

Kadıköy Boğası lakabıyla tanınan Mustafa Başaran göz ameliyatı oldu

30 Haziran 2025 17:42see110

İstanbul da şöhreti bırakıp Ege ye taşındı, amatör takım kurdu: Yıldızlar açılışa katıldı

30 Haziran 2025 11:42see109

SON DAKİKA CHP KURULTAY DAVASI CHP de kritik gün: Kemal Kılıçdaroğlu geri mi dönecek? Kayyum, mutlak butlan ve...

30 Haziran 2025 09:57see109

Valilik duyurdu: Havai fişek ve dilek balonu kullanımı ve satışı yasaklandı

01 Temmuz 2025 20:25see108

Yeni haftada sıcaklık mevsim normallerine inecek

30 Haziran 2025 03:11see107

Feyyaz Şerifoğlu ile Merve Dinçkol evlendi: Annesi gözyşlarını tutamadı Magazin haberleri

30 Haziran 2025 03:33see107
newsSon haberler
Günün en taze ve güncel olayları