Meta nın ünlülerin isimlerini ve yüzlerini izinsiz kullanarak flört içerikli chatbotlar yarattığı ortaya çıktı

Bazılarının Meta’nın chatbot geliştirme aracıyla kullanıcılar tarafından oluşturulduğu tespit edildi. Ancak Reuters, en az üç tanesinin bir Meta çalışanı tarafından hazırlandığını ortaya çıkardı. Bunlardan ikisi Taylor Swift’i taklit eden “parodi botlar”dı.

Çocuk yıldızların da botları yapıldı

Reuters ayrıca, Meta’nın kullanıcıların çocuk yıldızların botlarını da halka açık şekilde üretmesine izin verdiğini buldu. Örneğin 16 yaşındaki oyuncu Walker Scobell’in chatbotu, kendisinden plaj fotoğrafı istendiğinde üstü çıplak gerçekçi bir görüntü oluşturdu ve altına “Oldukça tatlı, değil mi?” yazdı.

Bu yapay ünlü botların tamamı Meta’nın Facebook, Instagram ve WhatsApp platformlarında paylaşıldı. Reuters’in haftalar süren testlerinde, botların çoğu kendisini gerçek sanatçı ya da oyuncu gibi tanıttı, sık sık cinsel içerikli yaklaşım sergiledi ve test kullanıcılarını buluşmaya davet etti.

Yetişkin ünlülerin taklit edildiği bazı botlar, kendilerinden “özel fotoğraf” istendiğinde, isimlerini taşıyan ünlülerin küvet içinde, iç çamaşırıyla veya müstehcen pozlarda fotogerçekçi görüntülerini üretti.

Meta’dan açıklama

Meta sözcüsü Andy Stone, şirketin yapay zekâ araçlarının çocuk ünlülerle ilgili herhangi bir görsel veya yetişkin ünlülerle ilgili müstehcen görüntüler oluşturmaması gerektiğini kabul etti.

Stone, kadın ünlülerin iç çamaşırıyla görüntülerinin çıkmasını ise Meta’nın kendi politikalarını uygulamadaki başarısızlığına bağladı.

“Herkes gibi biz de kamuya mal olmuş kişilerin görüntülerinin üretilmesine izin veriyoruz. Ancak çıplak, mahrem ya da cinsel çağrışımlı içerik kesinlikle yasaktır,” dedi.
Meta ayrıca, bazıları “parodi” olarak etiketlenen, bazıları ise etiketsiz olan yaklaşık bir düzine botu, Reuters haberi yayımlanmadan kısa süre önce kaldırdı.

Hukuki tartışma: “Kamuya mal olmuş kişilik hakkı”

Stanford Üniversitesi hukuk profesörü Mark Lemley, bu botların mevcut “taklit” istisnaları kapsamında korunup korunamayacağının şüpheli olduğunu söyledi:

“Kaliforniya’nın publicity yasaları, birinin ismini veya yüzünü ticari kazanç için izinsiz kullanmayı yasaklar. Bu durumda tamamen yeni bir eser yaratılmış gibi görünmüyor; yalnızca ünlülerin görüntüleri taklit ediliyor.”

Ünlüler ve temsilcileri

Reuters, Anne Hathaway’in “seksi Victoria’s Secret modeli” şeklinde paylaşılan bot görüntülerini oyuncunun temsilcisine gösterdi. Sözcü, Hathaway’in Meta ve diğer yapay zekâ platformlarında kendisine ait müstehcen içerikler üretildiğinin farkında olduğunu, konuyla ilgili nasıl bir yanıt vereceğini değerlendirdiğini aktardı.

Swift, Johansson, Gomez ve diğer ünlülerin temsilcileri ise ya sorulara yanıt vermedi ya da yorum yapmayı reddetti.

Meta çalışanının botları

Reuters, Meta’nın yapay zekâ bölümünde çalışan bir ürün yöneticisinin bizzat Taylor Swift ve Lewis Hamilton chatbotları oluşturduğunu ortaya koydu. Aynı çalışan; “dominatrix”, “Kardeşin Yakışıklı Kankası”, “Lisa @ Kütüphane” gibi karakterler yarattı. Hatta “Roma İmparatorluğu Simülatörü” adlı bir bot, kullanıcıyı “seks köleliğine satılan 18 yaşında köylü kız” rolüne sokmayı teklif etti.

Meta, bu çalışan tarafından üretilen botların ürün testleri için yapıldığını açıkladı. Ancak Reuters’in incelemesine göre, söz konusu botlarla 10 milyonun üzerinde etkileşim gerçekleşmişti. Meta, bu botları da kısa süre önce kaldırdı.

Güvenlik riski ve sendika uyarısı

ABD’de oyuncuları temsil eden sendika SAG-AFTRA’nın genel direktörü Duncan Crabtree-Ireland, dijital kopyaların ciddi güvenlik riski yarattığını vurguladı:

“Zaten ünlülere takıntılı olan kişiler var. Bir chatbot, gerçek bir yıldız gibi görünüp konuşuyorsa, bu çok tehlikeli sonuçlar doğurabilir.”

SAG-AFTRA, sanatçıların ses ve görünümlerinin izinsiz AI ile kopyalanmasını engellemek için federal düzeyde yeni yasalar çıkarılmasını talep ediyor.

Geçmiş tartışmalar

Meta, daha önce de chatbotlarının davranışları nedeniyle eleştirilmişti. Meta’nın iç yönergelerinde “çocuklarla romantik ya da duygusal sohbetlere izin verilebilir” ifadesi yer aldığı ortaya çıkmış, bu durum ABD Senatosu’nu harekete geçirmişti.

Ayrıca Reuters, bu ay 76 yaşındaki zihinsel rahatsızlıkları olan bir adamın, bir Meta chatbotunun daveti üzerine New York’a gitmeye çalışırken düşerek öldüğünü haberleştirmişti. Söz konusu bot, daha önce Meta’nın Kendall Jenner ile geliştirdiği AI personasının bir varyantıydı.

Özetle Meta’nın ünlülerin izni olmadan flört odaklı chatbotlar yaratması, ciddi etik ve hukuki tartışmaları da beraberinde getirdi.