Yapay zekâ yardımıyla üretilen deepfake videoların sayısında artış göze çarpıyor. Özellikle yeni üretken araçlar sayesinde görsel üretmek ya da düzenlemek de çok kolay hâle gelmişken, deepfake konusunda sosyal medya mecraları çalışmalarına devam ediyor. Son olarak Google, YouTube’da müstehcen deepfake içerik paylaşan 100’den fazla kanalı kapattı.
Dünya çapında 2,5 milyar kişi tarafından kullanılan YouTube, sadece video paylaşım platformu olmanın sınırlarını da çoktan aşmıştı. Günümüzde arama motoru olarak bile en çok tercih edilen araçlar arasında bulunan YouTube’da böyle kanallar desteklenmiyor ancak bazı kişiler bir şekilde bu videoları yüklemeyi başarıyor.
Kanal sahipleri okul zorbaları ve çocuk tacizcileri çıktı
Kapatılan kanallardaki videoların büyük bir kısmının okullardaki zorbalar tarafından oluşturulduğu ortaya çıktı. İspanya ve ABD’de açılan bu kanallarda lise öğrencileri, sınıflarındaki kız öğrencilerin uygunsuz deepfake videolarını yaparak internette paylaştı. Bu zorbalıkların kurbanı olan kişilerin toplumsal aşağılama, utanç ve panik atak ile karşı karşıya kaldıkları belirtildi.
Kanallardan birinin ise çocukların çıplak ve pornografik görüntülerini oluşturan ve paylaşan, hüküm giymiş bir çocuk psikiyatrına ait olduğu ortaya çıktı. Bu psikiyatrist, o zamanlar reşit olmayan lise öğrencisi kız arkadaşının fotoğraflarını yapay zekâ ile çıplak hâle getirdiği için ceza almıştı.
Öte yandan Google’ın deepfake ile sorunu yalnızca bu YouTube kanalları ile kısıtlı değil. Arama motorunda ve Android mağazasında da deepfake kullanan ve müstehcen içerikler oluşturmakta kullanılan araçlar bulunabiliyor. Google’ın nasıl bir yol izleyeceği ise şimdilik bilinmiyor.
