Yapay zeka sessizce dünyayı ele geçirebilir

Sam Altman, insanların sessizce yapay zekaya güç devredeceği konusunda uyardı.

OpenAI Başkanı'na göre, insanlık yapay zeka üzerindeki kontrolünü kötü niyetli bir eylem veya insan kaynaklı bir felaket nedeniyle değil, tamamen kaza sonucu kaybedebilir.

Altman, tehlikenin yapay zekanın "yükselişinde" değil, insanların iktidarı yavaş yavaş ona devretmesinde yattığını düşünüyor; gönüllü olarak ve neredeyse fark edilmeden.

Tüketiciler giderek daha fazla yapay zeka tavsiyesine güveniyor. Ancak daha akıllı modellerin ortaya çıkmasıyla durum kontrolden çıkabilir.

Yapay zeka, önce insanların gönüllü olarak uygulayacağı önerilerde bulunur. Daha sonra, tam olarak anlaşılmasa bile her zaman doğru çıkan önerilerde bulunur.

Kullanıcılar bir noktada şu seçimle karşı karşıya kalacak: Yapay zekayı dinleyecekler ya da onun tavsiye ve önerilerini izleyen rakiplerine yenilecekler.

Altman, sonunda çoğu insanın yapay zeka asistanlarının önerilerini sorgusuz sualsiz takip edeceğini öngörüyor.

"ChatGPT'nin bugün neler yaptığını bir düşünün. Her gün yüz milyonlarca insan onunla iletişim kuruyor, yakında bir milyara ulaşacak. Kariyerlerimizde, kişisel yaşamlarımızda ve işlerimizde önemli kararlar almak için giderek daha fazla ona güveniyoruz" diyor.

Altman, özellikle ortaya çıkan "geri bildirim döngüsü" konusunda endişeli. Yani kullanıcılar yapay zeka tavsiyelerine ne kadar çok güvenirse, yapay zeka o kadar çok veri topluyor, o kadar akıllı hale geliyor ve insanların kararlarını o kadar çok etkiliyor.

OpenAI Başkanı, bu durumun gerçekte kimin kontrolünde olduğunu sordu ve insanlığın sessizce yapay zekanın iradesine uymaya başlayabileceği sonucuna vardı.

Sam Altman, insanlık için en gerçek tehdidi oluşturmasına rağmen bu senaryonun ciddi şekilde hafife alındığı konusunda uyardı.