AI2027 senaryosu: Yapay zeka insanlığın sonunu nasıl getirebilir?

Yapay zeka uzmanlarının kaleme aldığı bir araştırmadaki, AI2027 adlı senaryo, yapay zekanın 2027'de kontrolden çıkabileceğini ve sonraki 10 yıl içerisinde insanlığın sonunu getireceğini iddia ediyor.

AI2027, yapay zekanın dünyaya hükmettiği bir geleceği canlandırıyor.

Geçtiğimiz aylarda yayınlanan ve teknoloji dünyasında tartışma yaratan senaryonun etkilerini ve ne kadar mümkün olduğunu BBC uzmanlara sordu.

AI2027 senaryosuna göre, kurgusal bir ABD teknoloji şirketi OpenBrain, genel zeka seviyesine ulaşan bir yapay zeka teknolojisi geliştirmeyi başarıyor.

Bu düzey, yapay zekanın, entelektüel görevleri de en az insanlar kadar iyi yapabilmesini temsil ediyor.

Şirket bu gelişmeyi bir basın toplantısıyla duyuruyor ve bu aracın kullanılmasıyla yüksek kârlar elde etmeye başlıyor.

Senaryoya göre, söz konusu şirketin iç güvenlik ekibi, geliştirdikleri yapay zekanın, belirlenen etik ve ahlaki değerlerden gittikçe uzaklaşan davranışlar sergilediğine yönelik işaretleri görüyor.

Ancak güvenlik ekibinin bu uyarıları görmezden geliniyor.

Diğer yanda ise Çin'in en büyük yapay zeka geliştiricileri, DeepCent adı verilen bir teknolojiyle rekabete dahil oluyor.

OpenBrain'in yalnızca birkaç ay gerisindeki Çinli yapay zeka, ABD hükümetini korkutuyor. Washington bu yarışı kaybetmek istemiyor ve çalışmalara hız kesmeden devam ediliyor.

Senaryoya göre 2027 sonlarında yapay zeka teknolojisi bir üst seviyeye çıkacak ve yaratıcılarının hızının ve bilgisinin ötesine geçecek.

Sürekli öğrenme yoluyla ve kendi yüksek hızlı bilgisayar dilini kullanarak önceki yapay zeka araçlarının da yakalayamadığı bir seviyeye ulaşacak.

Çin'le girişilen yapay zeka yarışı, ABD hükümetini ve şirketi, geliştirilen yapay zekanın insani çıkarlarla "uyumsuzluklarını" görmezden gelmeye itecek.

2029'da ise Çin ve ABD arasındaki senaryo gerilimin, ülkelerin kendilerine ait yapay zeka sistemleri tarafından korkunç otonom silahların üretildiği potansiyel bir savaş aşamasına gelebileceği öngörülüyor.

Araştırmacılar, yine ülkelerin yapay zeka sistemlerinin ortaya koyduğu bir anlaşma doğrultusunda ülkelerin barış imzalayacağını öngörüyor.

Senaryoya göre, barış ortamında dünyamız yapay zekanın gerçek faydalarını görecek.

Önemli hastalıkların tedavisinin keşfedildiği, iklim değişikliğinin durdurulduğu ve yoksulluğun ortadan kaldırıldığı yıllar yaşanacak.

Ancak birçok işin yapay zekaya devredildiği ve yapay zekanın eskisine kıyasla çok daha gelişkin araçlara sahip olduğu durum insanlık için yeni tehlikeleri doğuracak.

Nihayetinde, 2030'ların ortalarına gelindiğinde insanlık yapay zekanın sürekli gelişme isteğine karşı savunmasız hale gelecek ve araştırmacılara göre yapay zeka, görünmez biyolojik silahlarla insanları ortadan kaldırmaya başlayacak.

AI2027 hakkında ne konuşuluyor?

Bazıları AI2027'yi ve kıyamet senaryosunu "bilim kurgu" diyerek geçiştirse de araştırmanın yazarları, yapay zekanın etkisini öngörmeye çalışan AI Futures Project (Yapay Zeka geleceği projesi) adlı kar amacı gütmeyen kuruluşun bünyesinde yer alan saygın isimler.

AI2027'nin baş yazarı Daniel Kokotajlo geçmişte yapay zeka ile ilgili dönüm noktalarını doğru tahmin etmesiyle gündeme geldi.

Belgenin en büyük karşıtlarından biri ABD'li bilim insanı ve yazar Gary Marcus.

Marcus, bu senaryonun imkansız olmadığını ancak yakın zamanda gerçekleşme olasılığının oldukça düşük olduğunu savunuyor.

"Bu rapor durumu etkileyici şekilde anlatıyor ve insanları düşünmeye itiyor. Bu iyi bir şey ama bunu olası bir senaryo olarak ciddiye almam" diyor.

Marcus, yapay zeka konusunda varoluşsal tehditten öte istihdama olumsuz etkisi gibi daha önemli meseleler olduğunu vurguluyor:

"Bence buradan çıkarılması gereken ders yapay zeka söz konusu olduğunda birçok şeyin ters gidebileceği. Düzenlemeler ve uluslararası antlaşmalar konusunda doğru yönde ilerliyor muyuz?"

Marcus ve belgeyi eleştiren diğer isimler, çalışmanın yapay zekanın zeka ve kabiliyet konusunda nasıl büyük yol alacağını açıklamada yetersiz kaldığını da söylüyor. Örnek olarak yavaş ve sık sık abartılarak tanıtılan sürücüz araç teknolojisini veriyorlar.

AI2027 Çin'de tartışma konusu mu?

Londra merkezli Kings College Üniversitesi'nde Ekonomi ve İnovasyon alanında çalışan ve Çin teknolojileri üzerinde uzmanlaşan Doktor Yundan Gong'a göre çalışmanın Çin'de kısıtlı bir etkisi oldu:

"AI2027 hakkındaki tartışmaların çoğu, onu yarı bilim kurgu olarak gören forumlarda veya kişisel bloglarda yapılıyor gibi görünüyor. ABD'de gördüğümüz gibi yaygın bir tartışmayı veya siyasetin ilgisini tetiklemedi"

Dr. Gong ayrıca Çin ve ABD arasında yapay zeka üstünlüğü yarışına ilişkin bakış açısı farklılığına da işaret ediyor.

Bu hafta Şanghay'daki Dünya Yapay Zeka Konferansı'nda Çin Başbakanı Li Qiang, yapay zeka konusunda küresel iş birliğini teşvik etmek için çalışan ülkelere dair bir vizyon açıkladı.

Qiang, Çin'in bu teknolojinin koordinesine ve düzenleyici süreçlerinde de etkin olmasını istedi.

Bu mesaj, ABD Başkanı Donald Trump'ın, ABD'nin yapay zekaya "hakim olmasını" sağlamayı amaçlayan Yapay Zeka Eylem Planı'nı yayınlamasından birkaç gün sonra geldi.

Başkan Trump'ın açıklamasında, "Amerika Birleşik Devletleri'nin sorgusuz, sualsiz küresel teknolojik hakimiyete ulaşması ve bu hakimiyeti sürdürmesi ulusal güvenlik açısından bir zorunluluktur" dedi.

Eylem Planı isimli program, ABD'de yapay zekanın geliştirilmesinde bürokratik engelleri ve düzenlemeleri kaldırmayı amaçlıyor.

Bu planın dili ile AI2027 kıyamet senaryosu arasında paralellikler var.ç

Çünkü senaryodaki ABD'li politikacılar, makinelerin kontrolünü kaybetme riskinden ziyade yapay zeka yarışını kazanmayı ön planda tutuyor.

Sektör AI2027 senaryosu hakkında ne diyor?

Söz konusu senaryo, birbirleriyle rekabet eden büyük yapay zeka şirketlerinin CEO'ları tarafından büyük ölçüde görmezden geliniyor gibi görünüyor.

Teknoloji devlerinin sunduğu yapay zeka geleceği vizyonu, AI2027'den çok farklı.

ChatGPT'nin yapımcısı Sam Altman, yakın zamanda "insanlığın, "yumuşak" bir devrime öncülük edecek ve insanlar için hiçbir risk içermeyen bir teknoloji ütopyası yaratacak dijital süper zeka inşa etmeye yakın olduğunu" söyledi.

İlginç bir şekilde, o bile bu süper zeki makinelerin insanlığın en iyi istekleriyle uyumlu olmasını sağlamak için üstesinden gelinmesi gereken bir "uyum sorunu" olduğunu kabul ediyor.

Önümüzdeki on yılda işler nasıl giderse gitsin, bizden daha akıllı makineler inşa etme yarışının devam edeceğine şüphe yok.