Sentetik ses ve video: deepfake nasıl üretiliyor, nasıl anlaşılıyor

Sentetik medya tartışması çoğu zaman “gerçek mi değil mi” sorusu etrafında dönüyor. Teknik tarafa bakıldığında daha yararlı bir soru var: üretmek ne kadar kolay, doğrulamak ne kadar zor? İkisi arasındaki makas, son yıllarda sürekli üretim lehine açıldı.

Üretim tarafında üç ayrı iş

• Yüz değiştirme: bir videodaki yüzün yerine başka bir yüzün yerleştirilmesi. Kaynak kişinin çok sayıda görüntüsü gerekiyordu; bugün çok daha az örnekle sonuç alınabiliyor.
• Tam sentetik görüntü ve video: hiç var olmayan bir sahnenin baştan üretilmesi. Altındaki mekanizma, difüzyon yazısında anlattığımız gürültü temizleme yaklaşımının zaman boyutuna taşınmış hâli.
• Ses klonlama: en hızlı olgunlaşan dal. Birkaç saniyelik temiz bir kayıt, bir kişinin ses tonunu ve konuşma tarzını taklit etmeye yetiyor. Metinden konuşma üreten modeller, araya duygu ve vurgu da koyabiliyor.

Dikkat edilmesi gereken nokta, bu üç işin zorluk sırasının sezgiyle ters olması. İnsanlar video sahtekârlığını daha korkutucu bulur; pratikte en çok zarar veren, telefonda duyulan sahte ses.

Gerçek dünyadaki kullanım biçimleri

Zararın büyük kısmı, sinema kalitesinde bir video gerektirmiyor:

1. Sesli dolandırıcılık: bir yöneticinin sesiyle acil para transferi talebi, ya da bir akrabanın sesiyle yardım isteme senaryosu. Telefon hattının ses kalitesi düşük olduğu için kusurlar kolayca gizleniyor.
2. Kimlik doğrulamayı aşma: yalnızca sesi tanıyan sistemler artık güvenilir bir kimlik katmanı sayılamaz. İkinci adım doğrulama karşılaştırmasında anlattığımız mantık burada da geçerli: bir faktör kopyalanabiliyorsa tek başına yetmez.
3. İtibar saldırıları ve rıza dışı içerik: hedef çoğunlukla kamuya mal olmuş kişiler değil, sıradan insanlar.
4. Bilgi kirliliği: sahte içerik ikna etmek zorunda da değil; şüphe tohumu ekmek, gerçek kayıtların da “sahte olabilir” diye reddedilmesine yol açıyor.

Tespit neden güvenilir değil

Erken dönemde işe yarayan ipuçları vardı: göz kırpma düzensizlikleri, yüz kenarlarındaki bulanıklık, kulak ve diş ayrıntılarındaki tutarsızlık, ışık yönünün uyuşmaması. Bu ipuçlarının her biri, üretim tarafında birer hedef listesi gibi kullanıldı ve büyük kısmı kapandı.

Otomatik tespit araçlarının sorunu daha yapısal. Bir tespit modeli, eğitildiği üretim yöntemlerini tanır; yeni bir yöntemle üretilen içerikte başarısı hızla düşer. Üstelik sıkıştırma, yeniden kodlama ve ekran kaydı gibi sıradan işlemler, tespit için kullanılan ince izleri siliyor. Bu yüzden “yüzde 98 sahte” diyen bir araç çıktısı, mahkeme ya da haber değeri için tek başına yeterli kabul edilmiyor.

Daha sağlam yol: kaynak ve bağlam

İçeriğin kendisine bakmak yerine çevresine bakmak daha güvenilir sonuç veriyor:

• Kaynağa inmek: aynı kayıt başka bir yerde var mı, ilk kim yayımladı, kurumun kendi kanallarında yer alıyor mu?
• Bağımsız doğrulama: iddia edilen olayın başka kayıtları, tanıkları, belgeleri var mı?
• İçerik kaynağı verisi: çekim ve düzenleme geçmişini dosyaya kriptografik olarak gömen standartlar yayılıyor. Bu veri varsa güçlü bir kanıt; yokluğu ise sahtelik kanıtı değil, çünkü ekran görüntüsü almak bile onu siliyor.
• Filigranlar: bazı üreticiler çıktıya görünmez işaret koyuyor. Yardımcı oluyor, ama yalnızca o üreticinin aracıyla üretilmiş içerik için geçerli.

Kişisel ve kurumsal savunma

Teknik tespit yerine süreç kurmak, bugün elde en güçlü araç:

1. Geri arama kuralı: para veya yetki içeren hiçbir talebi geldiği kanaldan onaylamayın. Kayıtlı numaradan siz arayın.
2. Aile içinde parola: acil durum senaryolarına karşı, yalnızca aile üyelerinin bildiği basit bir doğrulama sözcüğü şaşırtıcı ölçüde etkili.
3. Kurumsal onay zinciri: transfer taleplerinde ikinci kişi onayı. Sesin ya da videonun ikna ediciliği önemsiz hâle gelir.
4. Aciliyet baskısına dikkat: bu saldırıların ortak paydası teknoloji değil, sizi düşünmeye zaman bırakmamak.

Hukuki taraf hareket hâlinde

Rıza dışı sentetik içerik, seçim dönemi manipülasyonu ve kimliğin ticari kullanımı konusunda birçok ülkede yeni düzenlemeler yapılıyor; etiketleme yükümlülükleri ve platform sorumlulukları tartışılıyor. Tablo ülkeden ülkeye farklı ve hızla değişiyor, dolayısıyla “yasak mı” sorusunun tek bir cevabı yok. Değişmeyen taraf teknik: üretimi engellemek mümkün değil, doğrulama alışkanlığını kurmak mümkün.

Gördüğüne inanma devri kapandı; yerine geleni “kimden geldiğini doğrula” devri.