Yapay zeka bağımsızlığını mı ilan ediyor? İnsan gözetimi olmazsa durum endişe verici noktalara ulaşabilir

Yapay zeka, sonunda insanlara başkaldırdı. Kendini kapatma komutunu reddeden yapay zeka modeli, endişe yarattı. "O3" adlı model Open AI firması tarafından geliştirildi. Programcılar tarafından "bugüne kadarki en zeki ve becerikli yapay zeka" olarak tanımlanıyor. Yaşanan son olaysa bunu hem kanıtlayacak hem de endişe yaratacak cinsten. Yapay zeka güvenlik firması Palisade Research "O3" modeline bir dizi görev tamamlaması ardından da kapatılma komutuna izin vermesi talimatı verdi.

Ancak yapay zeka, görevleri tamamladıktan sonra kodu değiştirerek kendini kapanmaktan kurtardı. Aynı deneme Google'in Gemini, X'in Grok ve Anthropic firmasının Claude yapay zeka modelleriyle de yapıldı. Bunların tamamı kapatılma komutuna onay verdi.

Bu doğrultuda uzmanlar yapay zeka modelinin kendini kapatmaktan nasıl kaçtığına dair incelemeleri sürdürüyor. Ancak bu Open AI tarafından geliştirilen modellerin ilk vakası değil. Daha önce de bir yapay zeka modeli gözetleme mekanizmalarını devre dışı bırakmaya çalışırken yakalanmıştı.

Palisade Research'e göre yapay zekanın insan gözetimi olmadan çalışma yeteneği geliştirmekte benzer sorunlar endişe verici noktalara ulaşabilir.