Yapay zeka ne kadar tehlikeli olabilir?

Yemek tariflerinden mühendislik çalışmalarına, yazılımdan görsel üretimine kadar yapay zeka uygulamaları hayatımızın her noktasına girdi.

Ancak söz konusu uygulamalar aynı zamanda büyük tehlikeleri de hayatımıza soktu. Çin'de yayımlanan Yapay Zeka Teknolojileri Risk Değerlendirme Raporu bu tehlikeleri gözler önüne serdi. Raporda, yapay zekanın terör örgütleri tarafından kitle imha silahları üretmek için kullanılabileceği uyarısına yer verildi.

Belgede, yapay zeka sistemlerinin nükleer, biyolojik, kimyasal silahlar ile füzelere ilişkin teorik bilgilerin yer aldığına dikkat çekildi. Yeterli denetim yapılmazsa bu bilgilerin teröristler tarafından kullanılabileceği belirtildi.

Rapor, söz konusu uygulamaların bilgiye internet üzerinden tarama yaparak ulaştığını kaydetti. Bunun, mevcut kontrol sistemlerini etkisiz kılarak barışa ve güvenliğe yönelik riskleri yoğunlaştırabileceği vurgulandı.

Peki bir yapay zeka uygulaması nasıl güvenilir olabilir? Rapora göre, yapay zekanın insan gibi iletişim kurması ve öz farkındalık kazanması tehlike yaratabilir. Bu sebeple temel ilke, programlarda insan kontrolünün yitirilmemesi olmalı.