Deepfake teknolojisi dijital güvenliği tehdit ediyor: Dijital klonunuz üretilebilir

Seçilmiş'e göre, deepfake teknolojisinin bir sonraki adımı, sadece bir kişinin görünüşünü değil, konuşma biçimini, bilgi birikimini ve kişiliğini simüle edebilen dijital kopyaların oluşturulması. Yapay zeka sistemlerine yüklenen yeterli veriyle, kişinin sesini ve mimiklerini taklit eden, hatta onun gibi düşünen ve konuşan dijital klonların üretilebilmesi mümkün hale geldi.

“Önümüzdeki 5 yıl içinde bu dijital kopyaların gündelik hayatta daha fazla karşımıza çıkacağını ve ciddi sorunlara yol açacağını öngörüyoruz" diyen Seçilmiş, özellikle finansal dolandırıcılık, itibar suikastı ve siyasi manipülasyon gibi alanlarda bu içeriklerin çoktan kullanılmaya başlandığını ifade etti.

'ONLINE GÖRÜŞMELERDE KİMLE KONUŞTUĞUNUZU BİLEMEYECEKSİNİZ'

Online ortamlardaki güvenlik risklerinin arttığına dikkat çeken Seçilmiş, “Artık bir Zoom toplantısında karşınızdaki kişinin gerçek bir insan mı yoksa bir yapay zeka ürünü mü olduğunu anlamak giderek zorlaşıyor; bu nedenle karşınızdakinin gerçekten o kişi olup olmadığından emin olmak her zamankinden daha güç. 2019 yılında Almanya'da yaşanan bir olayda, deepfake yoluyla düzenlenen sahte bir görüşme sonucunda büyük bir şirketin ciddi miktarda parasının dolandırıcılara aktarılması, bu tehlikenin sadece teorik değil, somut örneklerle de kanıtlandığını gösteriyor" dedi.

Seçilmiş, "Bu durumun yalnızca sosyal ilişkileri değil, iş dünyasındaki güvene dayalı süreçleri de doğrudan etkilemesi bekleniyor. İş mülakatları, finansal pazarlıklar, yatırım görüşmeleri, yüksek profilli iş birlikleri ya da uluslararası toplantılar gibi karşılıklı güvenin temel olduğu ortamlarda, ekran karşısındaki kişinin gerçekten o kişi olduğundan emin olamamak ciddi sorunlara yol açabilir. Bu belirsizlik, tarafların yeniden fiziksel olarak bir araya gelme ihtiyacını doğurabilir ve dijitalleşmenin sağladığı verimlilik avantajlarını sekteye uğratabilir. Belki de bizi, tekrar tokalaştığımız, aynı masada göz göze geldiğimiz ve güveni yeniden insan temasında aradığımız bir döneme geri döndürecek" diye konuştu.

'BU TEKNOLOJİYİ TÜPE GERİ SOKAMAZSINIZ'

Deepfake teknolojisinin tıpkı diş macunu gibi 'bir kez çıktıktan sonra tüpe geri sokulamayacağını' belirten Seçilmiş, bu tehditle mücadele etmek için yalnızca teknolojik değil, hukuki ve etik altyapının da güçlendirilmesi gerektiğini aktardı.

“1990'larda bilgisayar virüslerine karşı nasıl antivirüsler geliştirdiysek, bugün de sentetik içeriklere karşı etik, denetleyici ve tespit edici araçlar geliştirmemiz gerekiyor" diyen Seçilmiş, bu sürecin devlet, özel sektör, akademi ve sivil toplum örgütleri gibi farklı paydaşları bir araya getiren bir seferberlik gerektirdiğini ifade etti.

'KÜRESEL VE ULUSAL ÖNLEMLER HENÜZ YETERSİZ'

Seçilmiş, "Avrupa Birliği, Yapay Zeka Yasası (AI Act) ve Dijital Hizmetler Yasası (DSA) gibi düzenlemelerle sentetik içeriklerin etik ve şeffaf bir şekilde yayınlanmasını sağlamaya yönelik kurallar getirmeye çalışıyor. Çin, bu alanda oldukça katı düzenlemeler uygularken ABD, yalnızca eyalet düzeyinde kısmi çözümler sunabiliyor. Türkiye'de, halihazırda yürürlükte olan Dezenformasyon Yasası, bu içeriklerin yol açabileceği negatif sonuçlara karşı hukuki bir zemin sunsa da, sentetik içeriklerle ilgili kapsamlı bir düzenleme henüz oluşturulmuş değil" değerlendirmesinde bulundu.

'ETİKETLEME YETERLİ Mİ?'

Seçilmiş, "Teknoloji devlerinin deepfake içerikleri etiketleme zorunluluğu getirmesi, atılmış olumlu adımlar arasında yer alıyor. Bununla birlikte, açık kaynaklı ve kurumsal araçlarla sentetik içerik tespiti sağlayan yazılımlar da geliştiriliyor. Mevcut teknoloji ve altyapı kötü niyetli kişilerle başa çıkmak için henüz yeterli değil" dedi.

DOĞRU BİLGİ VE ALINACAK ÖNLEMLER

Öğr. Gör. Tolga Seçilmiş, yapay zeka destekli içeriklerin hızla yaygınlaştığı bir dijital ortamda, özellikle kurumsal karar süreçlerinin ciddi risklerle karşı karşıya olduğunu belirtti. Seçilmiş, "Gerek kamu gerekse özel sektör, bu yeni tehditlere karşı uzman desteğiyle risk analizleri yapmalı, uzun vadeli stratejiler geliştirmeli ve dijital altyapılarını yeniden gözden geçirmelidir. Önümüzdeki birkaç yıl içinde yaşanması muhtemel dönüşümlere şimdiden hazırlıklı olmanın, sadece krizleri önlemek değil, aynı zamanda sağlıklı ve doğru bilgiye dayalı kararlar alabilmek için kritik önem taşıyor" diye konuştu.