Deepfake, deep learning ve fake kelimelerinin bir araya getirilmesiyle oluşturulmuş bir kavramdır. En basit haliyle deepfake, derin öğrenme kullanılarak sahte içerik üretilmesi anlamına gelir. Yazının başındayken şu konuyu açıklığa kavuşturalım: deepfake’i son zamanların önemli trendi olan generative AI (üretken yapay zeka) ile karıştırmamak gerek. Generative AI, makine öğrenimi ve yapay zeka teknolojilerini kullanarak yeni ve orijinal içerikler oluştururken, deepfake mevcut içeriğin bazı parçalarını anlaşılmayacak şekilde değiştirerek sahte içerik üretir.

Deepfake Teknolojisinin Kullanım Alanları

Deepfake en çok insan yüzü üzerinde yapılan çalışmalarda kullanılıyor. Bir görseldeki yüzü başka bir insanın yüzü ile değiştirme bu çalışmaların odak noktasıdır. Buradaki kritik nokta, elde edilen son görüntünün sonradan eklenmiş hissi yaratmaması yani doğal görünmesi ne kadar başarılı olduğudur. Deepfake teknolojisi son zamanlarda bu konuda oldukça başarılı sonuçlar ortaya çıkarıyor. Fotoğrafta elde edilen bu başarının videoya da yansıtılması mümkündür.

Deepfake Nasıl Bir Teknoloji Kullanır?

Deepfake teknolojisi ile yapılan başarısız bir yüz değiştirme çalışması hemen anlaşılırken, başarılı örneklerin insan gözü ile tespit edilmesi oldukça zordur. Başarılı örneklere ulaşan çalışmalar bazı aşamalara özellikle dikkat eder.

Öncelikle başarılı deepfake örneklerinde, kullanılan iki yüz benzer yüz ifadelerine, aynı açılara ve aynı boyutlara sahip olan görsellerden seçilir. Bir diğer önemli nokta ise geçişlerdir. Geçişlerin yumuşak olması, keskin olmaması görüntünün doğal gözükmesi için şarttır. Yerleştirme sonrasında kafa ile kafanın etrafındaki ortam arasında oluşan keskin bir geçiş hemen kendini belli eder. Yüz ile gövde arasındaki geçişler, kafa-gövde oranının uyumu, gölgeler ve ışığın yüz üzerindeki geçişleri gibi detaylar da deepfake ile üretilen görüntünün inandırıcılığını artırır.

İnsan Algısının Deepfake ile Mücadelesi

Deepfake ile oluşturulan görüntüleri insan gözünün algılaması neden zor? İnsan algısında seçicilik daha çok bağlamsal noktalara dayanır ve teknik detayları dikkate alarak yargı üretmesi zordur. Örneğin, her kameranın üstünde "gürültü" adı verilen benzersiz bir iz olur. Bu iz, kamera sensörlerinin kusursuz olmamalarının sonucu oluşan yanlış veriler tarafından üretilir ve kamera sensörlerine özgüdür. Yani kamera sensörlerinin parmak izi gibi görev yapar. Üzerinde oynanılan görsel bir tür kameradan, monte edilen görüntü ise başka bir kameradan elde edilmişse bu iki görselin gürültüleri farklıdır. Ancak bir insanın bunu anlaması pek olası değildir. İnsan algısı görüntünün genel tutarlılığına bakar. Yani insan gözü deepfake ile üretilmiş bir görüntüyle kolayca aldatılabilir. Bu açıdan deepfake ile üretilmiş görüntüleri tespit etmek için en etkili aracımız yapay zekadır.

Deepfake Teknolojisinin Geleceği ve Yarattığı Tehditler

Deepfake teknolojisi kötü niyetli kişilerin elinde oldukça tehlikeli bir araç haline gelebilir. Bireysel intikamlar, siyasal çıkarlar, finansal dolandırıcılık gibi farklı alanlarda kişilere zarar verebilir. Bu tehditleri biraz daha detaylandıralım:

• İtibar Zedeleme: Kişilerin özel ve iş yaşamındaki itibarını zedelemek için kullanılabilir. Eski bir duygusal partner ya da çalışan, kişinin yüz ve sesini kullanarak uygunsuz içerikli sahte bir video oluşturabilir, saldırgan söylemler, cinsel ilişki videoları veya uygunsuz konuşmalar yayarak kişinin saygınlığına saldırabilir.
• Manipülasyon: Toplumun güvendiği kişilerin görüntüleri ve sesleri kullanılarak insanları manipüle edecek içerikler hazırlanabilir. Yalan haberler yaymak, sahte kampanyalara bağış toplamak, yanlış yatırımlara yönlendirmek gibi birçok tehlikeli durum yaratılabilir.
• Finansal Dolandırıcılık: Finansal kuruluşların online sistemlerini yanıltacak içerikler oluşturulabilir. Kişilerin kimlik bilgisi ile deepfake görüntüler eklenerek sistemlere sızılabilir.

Deepfake Tehditleri ile Mücadele Yöntemleri

Peki gittikçe gelişen bu teknolojinin yarattığı tehditle nasıl mücadele edeceğiz? Öncelikle deepfake ile mücadelede insan gözüne güvenmek risklidir. Bu mücadelede insan gözünden kaçan detayları yakalayabilen yapay zekayla çalışmak ve yapay zekayı doğru şekilde yönlendirmek gerekiyor.

Deepfake çalışmalarının zayıf olduğu alanları bilmek şarttır. Örneğin, bu teknolojilerin karşıya bakan yüzlerin transferlerinde başarılı olduğu, ancak doğrudan karşıya bakılmayan durumlarda zorlandığı görülüyor. Yüz doğrulama için kafa hareketi talep etmek bu konuda bir önlem olabilir. Çünkü deepfake ile oluşturulan videolarda kafa hareketleri esnasında kulak, göz ve ağız bölgesinde bozulmalar oluşur ve bu da görüntünün gerçek mi yoksa deepfake ile üretilmiş olduğuna dair ipuçları verir.

Sürekli Güncellenen Yapay Zeka Sistemleri

Deepfake ile mücadelede güncel kalmak ve sistemi sürekli daha fazla veri ile beslemek kritik öneme sahiptir. Yapay zekanız, ancak sizin öğrettiğiniz kadarını bilebilir ve yeterince veri sunmadığınız bir yöntemi yakalamakta zorlanabilir. Yeni çıkan teknolojiler, odaklandığınız noktaların kusurlarını düzeltebilir. Bu sebeple, iyi partnerler ve müşteriler ile çalışarak sürdürülebilir bir yapay zeka sistemi oluşturmak önemlidir.

Deepfake Teknolojisinin Geleceği

Deepfake çalışmaları, yapay zekanın bile ayırt edemeyeceği bir seviyeye ulaşabilir mi? Mücadele etmenin mümkün olmadığı bir seviyeye gelir mi? Tarih boyunca sahtekarlık teknolojileri ilerledikçe tespit etme yöntemleri de ilerlemiştir. Bu nedenle sahtekarlık teknolojileri ilerledikçe tespit etme yöntemleri de gelişmeye devam eder.

Gelecekte, yapay zekanın kendisine verilen bir yüzle istenilen içeriği oluşturması mümkün olabilir. Böyle bir durumda herhangi bir değiştirme işlemi olmayacağından, mevcut ipuçları işlevsiz kalacaktır. Ancak bu yeni durumun üstesinden gelmek için de çözümler bulunacaktır. Bir kapıyı kilitleyen bir anahtar varsa, açan bir anahtar da mutlaka vardır.

‍