13 yaşındaki çocuk yapay zeka yüzünden tutuklandı Sözcü Gazetesi

ABD'de bir ortaokul öğrencisinin, arkadaşlarıyla yaptığı 'kötü bir şaka' nedeniyle okulun gözetleme yazılımı tarafından tespit edilerek tutuklanması, ülke çapındaki okullarda kullanılan izleme teknolojileriyle ilgili büyük bir tartışmayı alevlendirdi. 

Eğitimciler bu sistemlerin "hayat kurtardığını" savunurken, sivil haklar savunucuları ve aileler, teknolojinin mahremiyeti ihlal ettiği ve çocukları haksız yere 'suçlu' durumuna düşürdüğü uyarısında bulunuyor.

Tennessee'de yaşayan Lesley Mathis, 13 yaşındaki kızının internet sohbetinde yaptığı "aptalca" bir şaka yüzünden tutuklanmasını şok içinde karşıladı. 

Arkadaşlarının ten rengiyle dalga geçmesine karşılık olarak "Perşembe günü tüm Meksikalıları öldürüyoruz" diye yazan genç kızın bu mesajı, okulun kullandığı Gaggle adlı gözetleme yazılımı tarafından anında tespit edildi. 

Kısa süre içinde tutuklanan sekizinci sınıf öğrencisi, annesinin anlattığına göre sorguya çekildi, çıplak aramaya maruz bırakıldı ve geceyi bir hapishane hücresinde geçirdi.

Annesi Mathis, "İçinde yaşadığımız Amerika bu mu diye düşündüm. Bu, rastgele kelimeleri seçip bağlama bakmayan aptalca bir teknolojiydi" diyerek duruma isyan etti. 

Mahkeme, kıza 8 hafta ev hapsi ve psikolojik değerlendirme kararı verdi.

ABD'deki binlerce okul, öğrencilerin okul hesapları ve cihazları üzerinden yaptığı her yazışmayı izlemek için Gaggle ve Lightspeed Alert gibi yapay zeka destekli yazılımlar kullanıyor. Amaç, öğrencilerin kendilerine veya başkalarına zarar verme potansiyeli taşıyan ifadeleri tespit edip erken müdahalede bulunmak.

Lightspeed Systems yetkilisi Amy Bennett, bu yazılımların yetersiz personele sahip okullara "cezalandırıcı olmaktan çok proaktif olmalarında" yardımcı olduğunu söylüyor. Gaggle CEO'su Jeff Patterson ise Tennessee'deki olayın amacından saptığını belirterek, "Keşke bu bir kolluk kuvveti olayı olarak değil, öğretici bir an olarak değerlendirilseydi" dedi.

Ancak eleştirmenler, sistemin karanlık bir yüzü olduğuna dikkat çekiyor. Demokrasi ve Teknoloji Merkezi direktörü Elizabeth Laird, bu yazılımların "öğrencilerin evleri de dahil olmak üzere hayatlarında kolluk kuvvetlerinin varlığını rutinleştirdiğini" belirtiyor.

Florida'daki Polk İlçe Okulları'nda, dört yılda alınan yaklaşık 500 Gaggle uyarısının, 72 öğrencinin iradesi dışında ruh sağlığı merkezlerine yatırılmasına yol açtığı ortaya çıktı. Southern Poverty Law Center avukatlarından Sam Boyd, "Çocuklar bu deneyimi travmatik olarak hatırlıyor, ruh sağlıklarına yardımcı olan bir şey olarak değil" diyor.

Sistemlerin en büyük sorunlarından biri de yüksek yanlış alarm oranı. Associated Press'in yaptığı bir analiz, Kansas'taki bir okul bölgesinde verilen 1.200'den fazla Gaggle uyarısının neredeyse üçte ikisinin okul yetkilileri tarafından "önemsiz" olarak değerlendirildiğini ortaya koydu. Bir öğrenci, üniversite başvuru yazısında "ruh sağlığı" ifadesini kullandığı için, bir diğeri ise fotoğraf ödevi için sisteme takıldı.