İzniniz olmadan yüzünüzün dijital olarak bir porno videosuna eklendiğini ve bu videonun internette paylaşıldığını düşünebiliyor musunuz? Aktivist Kate Isaacs tam olarak bunu yaşadı.
Deepfake, yapay zeka kullanılarak oluşturulmuş ses ve video dosyalarını tanımlayan bir terim. Her türden deepfake bulmak mümkün: Bir kişinin yüzünün bir başkasıyla değiştirildiği dosyalar, konuşan kişinin ağzının orijinalinden farklı bir ses parçasına ayarlanabildiği dudak senkronizasyonları, kişiye söylemediği şeyler söyletmek için kullanılan ses klonlama tekniği…
Ama Deepfake teknolojisinin zararları başta ‘intikam pornosu’ olmak üzere, en çok pornografi alanında kendini gösteriyor. Siber güvenlik şirketi Deeptrace’e göre deepfake videolarının yüzde 96’sı pornografik videolardan oluşuyor. Sahte porno videolar ve resimler geniş kitlelere ulaşıyor ve ünlülerden çocuklara değişen kurbanlarına zarar veriyor.
Geçmişte deepfake videolarında daha çok ünlülerin ve siyasetçilerin yüzleri kullanılırdı. Ama şimdi normal insanlar da ‘kurban’ olabiliyor.
BBC’nin haberine göre 30 yaşındaki aktivist Kate Isaacs de deepfake teknolojisinin mağdurlarından oldu. Kate, bir akşam Twitter hesabına bakarken bildirimlerinde rahatsız edici bir videoya denk geldi.
Biri yapay zeka teknolojisiyle onun yüzünü bir porno yıldızının yüzünün üstüne yapıştırmıştı. İnsanların rızası olmadan yapılan porno videolarına karşı kampanyalar yürüten Kate, videoda seks yapıyormuş gibi gösteriliyordu.
Kate, kendisine karşı deepfake teknolojisini kullanan kişinin bu kampanyaya cevaben böyle bir şey yaptığını düşünüyor ama bu kişinin kim olduğuna dair hiçbir fikri yok.
Kate, ev ve iş adresinin bile videonun altına eklendiğini söylüyor: “Gerçekten tehlikede olduğumu düşündüm.”
Deepfake piyasası
Deepfake videoların yapımı için çevrimiçi forumlarda ciddi bir talep var. İnsanlar, eşlerinin, komşularının, meslektaşlarının ve ailelerinin bile deepfake videolarda kullanılmasını talep ediyor.
Britanya’da yaşayan ve BBC’ye gerçek ismini vermeyen bir deepfake video yapımcısı, ilk başta ünlülerin videolarını yaparak başladığını anlattı.
Görkem ismini kullanan yapımcı, insanların bu videolar sayesinde ‘daha önce mümkün olmayan bir şekilde fantezilerini tatmin ettiğini’ söyledi. Daha sonra çekici bulduğu kadınların ve iş arkadaşlarının videolarını yapmaya başladığı şöyle anlattı: “Biri evliydi diğerinin de ilişkisi vardı. Bu kadınların deepake videolarını yaptıktan sonra ofise gitmek tuhaf bir duyguydu ama hiçbir şey olmamış gibi davrandım ve sinirlerime hakim oldum.”
Hobi olarak yaptığı bu işten para kazanabileceğini anlayan Görkem, bir süre sonra internet üzerinden sipariş almaya başladığını anlattı.
Görkem, kadınların sosyal medya hesaplarından fotoğraflar toplamaya başladığını, bir defasında Zoom görüşmesinden aldığı görüntülerle bile video yaptığını söyledi: “Kadınların doğrudan kameraya baktığı görüntüler benim için çok faydalı. Algoritma böylece bu görüntüleri kullanarak onların yüzünü kullanabiliyor.”
Ama dünyanın en büyük deepfake porno sitelerinden birini işleten bir başka adam, artık videolarda görsellerin manipüle edilip edilmediğini anlamanın çok zor olduğunu söyledi.
ABD’de yaşayan bu adam, yaklaşık 20 bin videonun yüklü olduğu sitesini ayda 13 milyon kişinin ziyaret ettiğini belirtti.
