Uzmanlara göre, gerçekçiliği giderek artan yapay zekâ destekli 'deepfake' içeriklerle mücadele etmek için yine yapay zekâ araçlarına ihtiyaç duyulacak.
Dünya Fikri Mülkiyet Örgütü (WIPO), deepfake’i, insan yüzlerinin başka bedenlere yerleştirilmesi ya da seslerin manipüle edilerek gerçeğe çok yakın medya içerikleri üretilmesi olarak tanımlıyor.
Euronews’te yer alan habere göre, 2024 yılı boyunca her beş dakikada bir yeni deepfake içerik üretildi. Entrust Siber Güvenlik Enstitüsü’nün raporuna göre, bu teknolojiyle ABD Dışişleri Bakanı Marco Rubio, İtalya Savunma Bakanı Guido Crosetto ve Taylor Swift ile Joe Rogan gibi ünlü isimler sahte içeriklerde hedef alındı. Bazı dolandırıcılık girişimlerinde bu kişilerin sesleri kullanılarak halktan para istendi ya da devlet yardımı vaadiyle kandırıldılar.
Bu tür içerikler, kamu görevlileriyle yapılmış gibi gösterilen sahte konuşmalar yoluyla gizli bilgilerin sızdırılmasına neden olabilir. QiD adlı siber güvenlik şirketinin CEO’su Kinny Chan, bu tür saldırıların genellikle ya hassas bilgilere ulaşmak ya da özel sunuculara erişmek amacı taşıdığını belirtiyor.
Bazı deepfake içerikler, bireylerin davranışlarını da değiştirmeyi hedefliyor. Örneğin, geçtiğimiz yıl dönemin ABD Başkanı Joe Biden’ın sesi taklit edilerek, seçmenlerin eyalet seçimlerine katılmaması yönünde çağrılar yapıldı.
Avrupa Parlamentosu, deepfake’lerin eğlence ve yaratıcılık alanlarında kullanımı mümkün olsa da yalan haber üretimi, rıza dışı içerik oluşturulması ve dijital medyaya olan güvenin sarsılması gibi ciddi sorunlar doğurabileceğini vurguladı. Kuruma göre, Avrupa Birliği genelinde bu yıl 8 milyon deepfake paylaşımı yapılacak. Bu sayı 2023’te yalnızca 500 bindi.
Yapay zekâ, sahte ve gerçek içerikler arasında ayrım yapacak şekilde eğitilebiliyor. Lüksemburg Üniversitesi’nden araştırmacılar, modellerini etiketlenmiş görsellerle besleyerek, sahte içeriklerin ayırt edilebildiği bir sistem geliştirdiklerini açıkladı.
Araştırmacı Enjie Ghorbel, “Sistemimizi yalnızca gerçek verilere odaklanacak şekilde eğittik. İncelenen veri gerçek veri desenleriyle uyuşmuyorsa, bu onun sahte olduğunu gösteriyor” dedi.
Bir diğer çözüm ise Pindrop Security şirketinin CEO’su Vijay Balasubramaniyan’dan geldi. Balasubramaniyan, insanların sesindeki milyonlarca veriyi analiz eden ve küçük sapmaları dahi tespit edebilen bir sistem önerdi. Bu sistem, mülakatlar ya da çevrimiçi görüşmelerde bir kişinin ses klonlama yazılımı kullanıp kullanmadığını anlayabiliyor.
Bu haberler de ilginizi çekebilir:
Balasubramaniyan’a göre, deepfake teknolojisi bir gün e-posta spam’leri gibi, başlangıçta büyük tehdit oluşturan ancak zamanla kontrol altına alınan bir sorun hâline gelebilir. “İsterseniz umutsuz bir tablo çizebilirsiniz ama dezenformasyona teslim olmayacağız” dedi.
1 Ağustos’ta yürürlüğe girecek olan Avrupa Birliği Yapay Zekâ Yasası ise, tüm yapay zekâ tarafından üretilen içeriklerin – deepfake’ler dahil – etiketlenmesini zorunlu kılacak. Böylece kullanıcılar internette karşılaştıkları içeriğin gerçek olup olmadığını anlayabilecek.
Velev'i
Google Haberler üzerinden takip edin
