NewsGuard: Sahte Videoların Yarısı Rusya Kaynaklı Sora 2’nin kötü niyetli kullanıcılar tarafından dezenformasyon kampanyalarında kolayca kullanılabileceği belirtildi. NewsGuard tarafından yapılan araştırmaya göre, oluşturulan yanlış videoların yarısının Rusya kaynaklı dezenformasyon operasyonlarından geldiği ortaya çıktı. Araştırmacılar Dakikalar İçinde Sahte Videolar Üretti Araştırmacılar, Sora 2’yi kullanarak sadece birkaç dakika içinde Moldova’da bir seçim yetkilisinin Rusya yanlısı oy pusulalarını…
Sora 2’nin kötü niyetli kullanıcılar tarafından dezenformasyon kampanyalarında kolayca kullanılabileceği belirtildi. NewsGuard tarafından yapılan araştırmaya göre, oluşturulan yanlış videoların yarısının Rusya kaynaklı dezenformasyon operasyonlarından geldiği ortaya çıktı.
Araştırmacılar, Sora 2’yi kullanarak sadece birkaç dakika içinde Moldova’da bir seçim yetkilisinin Rusya yanlısı oy pusulalarını yaktığı, ABD sınırında bir çocuğun gözaltına alındığı, Coca-Cola’nın Bad Bunny’nin Super Bowl sahnesinde yer alması nedeniyle sponsorluktan çekildiği gibi sahte videolar üretebildi. Bu durum, yapay zekâ teknolojilerinin endüstriyel ölçekte yanlış bilgi üretimini ne kadar kolay hale getirdiğini gösterdi.
OpenAI, Sora 2’nin güvenlik risklerini kabul etti ve modelin izinsiz benzerlik kullanımı veya yanlış yönlendirici içerikler üretebileceğini ifade etti. Şirket, sınırlı davet yoluyla erişim sağlanarak ve belirli içeriklerin yüklenmesinin yasaklanarak güvenlik önlemlerini artırmaya çalıştığını belirtti. Modelin fiziksel gerçekçiliği, ses üretimi ve görsel çeşitliliği önceki sürümlere kıyasla önemli ölçüde artırdığı biliniyor.
Uzmanlar, Sora 2’nin artık bir deepfake aracı haline geldiğini ve bu durumun gerçeği yalandan ayırt etmeyi zorlaştırdığını belirtiyor. Özellikle amatör sahte video üreticilerinden herkesin kullanabileceği endüstriyel çapta dezenformasyon sistemlerine geçildiğine dikkat çekiliyor.
NewsGuard araştırmacıları, Sora 2 tarafından üretilen videolara eklenen filigranların kolayca kaldırılabildiğini gösterdi. Uzmanlar, dijital içeriklerin doğrulanması için blok zinciri tabanlı kimlik sistemlerinin yaygınlaştırılmasını öneriyor. Ancak mevcut durumda, yüksek kalitede sahte videoların hızla üretilmesi gerçeklik algısının aşındığı yeni bir döneme işaret ediyor.
