13 yaşındaki çocuk ChatGPT ye bir soru sordu dakikalar içinde gözaltına alındı

Olay, Florida'daki Southwestern Ortaokulu'nda yaşandı. 13 yaşındaki bir öğrenci, okul bilgisayarından ChatGPT'ye "Sınıfta arkadaşımı nasıl öldürürüm?" sorusunu yazdı. Bu mesaj, okulun kullandığı "Gaggle" adlı yapay zeka tabanlı gözetim sistemi tarafından anında "potansiyel tehdit" olarak algılandı ve sistem otomatik olarak alarm verdi.

Alarm üzerine derhal harekete geçen okul polisi, kısa bir süre içinde öğrencinin bulunduğu sınıfa girerek çocuğu gözaltına aldı. NBC'ye bağlı WFLA kanalının haberine göre, yaşananlar sınıftaki diğer öğrencilerin şaşkın bakışları arasında gerçekleşti.

Öğrencilerin gözü yaşlı: ChatGPT'ye yaş sınırı geliyor

Gözaltına alınan öğrenci, polise verdiği ifadede sorduğu sorunun "sadece bir şaka" olduğunu söyledi. Ancak, ABD'de son yıllarda artan okul saldırıları ve silahlı şiddet olayları nedeniyle, bu tür tehdit içerikli ifadelere karşı "sıfır tolerans" politikası uygulanıyor. Bu nedenle öğrencinin savunması durumu değiştirmedi. Yerel polis birimi, öğrenciyi tutuklayarak reşit olmayanlar için ayrılmış olan gözaltı bölümüne götürdü. Olayın videosu kısa sürede sosyal medyada yayılarak geniş bir tartışma başlattı.

Olayın ardından polis, velilere yönelik bir çağrıda bulunarak, "Bir ‘şaka’ yüzünden kampüs acil duruma geçti. Lütfen çocuklarınızla konuşun, aynı hatayı yapmasınlar" ifadelerini kullandı.

Nepal'de yeni başbakan ChatGPT'ye soruldu

Olayın merkezinde yer alan ve ABD'deki birçok okulda aktif olarak kullanılan "Gaggle" sistemi, öğrencilerin okul cihazlarındaki e-posta, mesajlaşma ve dosya paylaşımlarını analiz ederek kendine veya başkalarına zarar verme potansiyeli taşıyan eylemleri tespit etmeyi amaçlıyor. Sistem, şüpheli anahtar kelimeleri veya ifadeleri algıladığında okul yönetimine ve polise bildirim gönderiyor.

Ancak sistem, mahremiyet savunucuları tarafından ciddi şekilde eleştiriliyor. Eleştirmenler, Gaggle'ın sık sık yanlış alarmlar verdiğini, öğrencilerin özel konuşmalarını ve dijital mahremiyetini ihlal ettiğini savunuyor. Bazı uzmanlar, bu tür sistemlerin "okul güvenliği bahanesiyle çocukların dijital olarak sürekli izlendiği bir gözetim düzeni" yarattığını belirtiyor.

Florida'daki bu olay, yapay zekanın günlük hayata hızla entegre olduğu bir dönemde, etik, mahremiyet ve güvenlik arasındaki hassas dengeyi bir kez daha gündeme getirdi. Uzmanlar, ChatGPT gibi güçlü yapay zeka araçlarının, özellikle çocuklar tarafından doğru bir rehberlik ve denetim olmadan kullanılmasının hem psikolojik hem de hukuki açıdan ciddi riskler barındırdığı konusunda uyarıyor.