Deepfake videolar başlangıçta bazı eğlenceli kullanım alanları sunmuş olsalar da zaman içinde oldukça tehlikeli hale geldiler. Özellikle gelişen yapay zeka, politikacıların ağzından hiç söylemedikleri sözleri sarf etmiş gibi gösterip savaş çıkartmaya yetecek kadar malzeme üretebiliyor. Ünlüler de özel hayatlarıyla deepfake videolardan nasibini alıyor. Yakında bu videoların sayısı o kadar çok artacak ki muhtemelen gerçek olanlar azınlık haline gelecek.
Özellikle yapay zeka ile gelişen yeni nesil videoları gerçeğinden ayırmak insan gözü için artık imkansız hale geldiği için proje bir hayli önem arz ediyor. İşte bu durumun önüne geçmek için Stanford ve Berkeley Üniversitesi’nde bir grup ortak çalışmaya imza attı. Geliştirilen yapay zeka algoritması, videoları analiz ederek gerçek mi sahte mi olduğuna karar veriyor. Şu an için yüzde 80 doğrulukta çalışan yapay zeka dudak hareketleri ve konuşma arasındaki senkronizasyona bakıyor ve olası eşleşmeme durumlarında uyarıda bulunuyor.
Fake Obama!
Özellikle Obama için çıkan sayısız miktarda deepfake video var. Üniversite çalışanları da bu videoları baz alarak geliştirmeye gidiyor ve şu an için Obama’nın fake videoları araştırmacılara önemli bir kaynak sağlıyor. Araştırmacılar dudak senkronizasyonunu takip etmek için algoritmayı sürekli olarak geliştirdiklerini belirtiyor. İronik olan, deepfake videolar üretmek için kullanılan yapay zekanın, yine bu videoların tespitinde de kullanılıyor olması.
