Deepfake ve sahte haberlerle dolu bir dünyada, AB destekli araştırmacılar gazetecilerin gerçek ile sahte içeriği ayırt etmesine yardımcı olacak araçlar geliştiriyor.
Geçen kış Avrupa genelinde Noel pazarları açılırken sosyal medya endişe verici videolarla dolup taştı. Paylaşımlarda radikal İslamcıların Noel pazarlarını "istila ettiği" iddia edildi.
Bir klipte insanların Brüksel Noel pazarının açılışını "engellediği" görülürken, ayrı bir fotoğrafta ağır güvenlik önlemleriyle çevrili bir pazar görüntüsü paylaşıldı. Verilmek istenen mesaj açıktı: Hristiyan geleneklerinin tehdit altında olduğu ileri sürülüyordu.
Ancak gerçek farklıydı. Videolar barışçıl gösterilerden alınmıştı ve fotoğraf yapay zeka kullanılarak üretilmişti. İlk bakışta inandırıcı görünen içerik ya yanıltıcıydı ya da tamamen sahteydi.
Bu, yeni bilgi ortamının bir yansımasıdır.
Avrupa Komisyonu'nun yakın tarihli bir anketine göre, katılımcıların yaklaşık üçte ikisi son bir hafta içinde dezenformasyon veya sahte haberle karşılaştığını söyledi. Yapay zeka araçlarının artık son derece gerçekçi görüntüler, videolar ve metinler üretebilmesiyle birlikte gerçek ile sahteyi ayırt etmek her zamankinden daha zor hale geldi.
Buna karşılık, AB desteğiyle bir araya gelen çok uluslu araştırmacılar ve medya uzmanları ekibi, ateşe ateşle karşılık vermeye karar verdi.
2020 yılında üniversitelerden, medya kuruluşlarından ve teknoloji şirketlerinden uzmanlar, AI4Media adlı dört yıllık AB destekli bir girişimde güçlerini birleştirdi. Amaç, gazetecilerin ve doğrulama uzmanlarının dijital içeriği hızlı ve güvenilir biçimde doğrulamasına yardımcı olacak yapay zeka araçları oluşturmaktı.
Girişimi koordine eden Yunanistan Araştırma ve Teknoloji Vakfı (CERTH) Araştırma Direktörü Yiannis Kompatsiaris, "Medya sektörü için yapay zeka teknikleri geliştirmek acil bir ihtiyaçtır" dedi.
Yapay zeka, ikna edici sahte içerik üretmenin önündeki engelleri büyük ölçüde düşürdü. Üretken yapay zekaya erişimi olan herkes artık sahte görüntüler, klonlanmış sesler veya gerçekçi görünümlü haber makaleleri oluşturabiliyor. Sosyal medya platformları da bu içeriği büyük bir hızla yayıyor.
Kompatsiaris şunları ekledi: "Sahte bir haber gerçekçi görüntülerle desteklendiğinde, ona inanmak çok daha kolay hale geliyor ve daha fazla görüntülenme aldığı için paylaşmak da daha cazip oluyor."
AI4Media ekibi, doğrudan haber odası iş akışlarına entegre edilecek şekilde tasarlanmış doğrulama araçları geliştirdi. Almanya'daki Deutsche Welle ve Belçika'daki VRT gibi medya kuruluşları bu araçları gerçek dünya koşullarında test etti.
Projede görev alan CERTH araştırmacısı Akis Papadopoulos, "Doğrulama uzmanları ve gazeteciler her gün şüpheli görüntülerle karşılaşıyor" dedi. Teknolojiyi "ilk savunma hattı" olarak tanımlayan Papadopoulos, bunun insan muhakemesinin yerini almayacağını ancak potansiyel olarak manipüle edilmiş içeriği hızlıca işaretlemenin bir yolu olduğunu belirtti.
Papadopoulos, "Avrupa genelinde ve küresel ölçekte gazetecileri şüpheli materyali hızlı tespit etmelerine yardımcı olacak araçlarla donatmak önemlidir" dedi.
Tüm AB ülkelerindeki dezenformasyon kampanyalarını izleyen bağımsız, AB destekli merkez Avrupa Dijital Medya Gözlemevi'ne göre, yapay zeka kaynaklı dezenformasyon son aylarda istikrarlı biçimde artış gösterdi.
Bu durum münferit aldatmacaların çok ötesine geçiyor. Koordineli kampanyalar seçimleri etkileyebilir, kamusal tartışmayı çarpıtabilir ve kurumlara olan güveni zayıflatabilir.
Manipüle edilmiş içeriği tespit etmek zorluğun yalnızca bir boyutu. Dezenformasyonun nasıl yayıldığını anlamak — kimin güçlendirdiğini, anlatıların nasıl evrildiğini ve kampanyaların koordineli olup olmadığını kavramak — en az tespit kadar önemli.
İtalya'nın Trento kentindeki Fondazione Bruno Kessler (FBK) bünyesindeki Karmaşık Davranış Birimi Başkanı Riccardo Gallotti, "En son teknolojiyi anlayıp ona yetişmeye çalıştığımız sürekli bir döngü içindeyiz" dedi.
FBK, dijital yenilik, yapay zeka ve karmaşık sosyal sistemlerin incelenmesi alanındaki çalışmalarıyla bilinen bir araştırma merkezi. AI4Media'ya paralel olarak yürütülen AI4Trust adlı AB destekli projede FBK, çevrimiçi dezenformasyonun daha geniş dinamiklerini analiz etmek için Avrupa genelindeki üniversiteler ve medya kuruluşlarıyla ortaklık kurdu.
Ortaklar arasında Belçika'daki Euractiv, Sky Italia ve İspanya'daki Maldita.es, Yunanistan'daki Ellenika Hoaxes ve Polonya'daki Demagog doğrulama servisleri yer aldı.
AI4Media manipüle edilmiş medyayı tespit etmeye ve doğrulama araçlarını haber odalarına entegre etmeye odaklanırken, AI4Trust dezenformasyonu geniş ölçekte izlemek ve analiz etmek için hibrit bir insan-makine sistemi kurdu.
Bu platform, birden fazla sosyal medya ve haber sitesini neredeyse gerçek zamanlı olarak izliyor. Gelişmiş yapay zeka algoritmaları kullanarak çok dilli ve çok modlu içeriği — metin, ses ve görüntü — işliyor.
Çevrimiçi materyal hacmi insan kapasitesini çok aştığı için sistem, sahte olma riski yüksek paylaşımları filtreleyip işaretliyor. Ardından profesyonel doğrulama uzmanları bu materyali inceliyor ve doğrulanmış değerlendirmeler sistemin performansını artırmak üzere geri besleme olarak kullanılıyor.
İki proje birbirini tamamlıyor. Biri manipüle edilmiş içeriği tespit etmeye odaklanırken, diğeri bunun nasıl yayıldığını inceliyor. Birlikte ele alındığında, yapay zeka destekli dezenformasyonu anlamak ve bununla mücadele etmek için hem mikroskobu hem de geniş açı lensi sunuyorlar.
Yapay zekayı tespit etmek için yapay zeka kullanmak ironik görünebilir ama ciddi bir iş. Kompatsiaris, "Gerçekten komik ama bu bir silahlanma yarışı gibi" dedi.
Üretken yapay zeka modelleri olağanüstü hızla gelişiyor. AI4Media başladığında ChatGPT gibi araçlar henüz emekleme dönemindeydi. O zamandan bu yana yapay zeka tarafından üretilen içeriğin kalitesi ve gerçekçiliği çarpıcı biçimde ilerledi.
Papadopoulos, "İnsan zihninin hıza ayak uydurmakta zorlandığı yeni bir çağa girdik. Yapay zekaya yetişmek için yapay zeka kullanmanız gerekiyor" dedi.
Üretken modeller güçlendikçe tespit sistemleri de sürekli adapte olmak zorunda kalıyor. Araştırmacıların karşılaştığı en büyük zorluklardan biri de buydu.
Papadopoulos şöyle açıkladı: "Teknoloji o kadar hızlı ilerledi ki araştırmacılar olarak bizim bile ayak uydurması güç. Yeni üretilen görüntüleri tespit edebilmek için modellerimizi sürekli güncellememiz gerekti."
Ekip doğrulama sürecinin bazı bölümlerini otomatikleştirdi ve sistemlerini düzenli olarak yeniden eğitti. Ancak öne geçmek, hem araştırmaya hem de bu teknolojilere bağımlı olan medya sektörüne sürekli yatırım yapılmasını gerektiriyor.
Yine de tek başına teknoloji yeterli değil. Kompatsiaris, "Araçlara ihtiyacımız var ama politikalara ve kurallara da ihtiyacımız var" dedi.
AB'nin Dijital Hizmetler Yasası kapsamında çok büyük çevrimiçi platformlar, dezenformasyonun yayılması dahil sistemik riskleri değerlendirmek ve azaltmak zorunda; ayrıca sistemlerinin nasıl çalıştığına dair şeffaflığı artırmaları gerekiyor. Yapay Zeka Yasası ise belirli üretken yapay zeka sistemleri için, yapay zeka tarafından üretilen içeriğin etiketlenmesi gereklilikleri dahil şeffaflık yükümlülükleri getiriyor.
Aynı zamanda, yapay zeka tarafından üretilen içerik için şeffaflığa ilişkin bir Uygulama Kuralları Taslağı, daha net ifşa ve filigran standartlarını teşvik etmeyi amaçlıyor.
Bağımsız gazeteciğin korunması da bir öncelik. Avrupa Medya Özgürlüğü Yasası, profesyonel medya içeriğinin büyük çevrimiçi platformlarda tanınmasını ve korunmasını sağlayan güvenceler ortaya koyuyor.
Büyük platformlar, gazetecilik içeriğini kaldırmadan önce tanınmış medya kuruluşlarını bilgilendirmek ve gerekçelerini açıklamak zorunda; böylece kuruluşlara yanıt verme süresi tanınıyor. Amaç, meşru haberciliğin gerekçesiz biçimde kaldırılmasını önlemek.
Bu önlemler ve sistemler birlikte daha geniş bir kalkan oluşturuyor: manipülasyonu tespit eden teknoloji, şeffaflığı ve hesap verebilirliği artıran düzenlemeler ve sorumlu gazeteciğini koruyan güvenceler.
Kamuoyu farkındalığı da en az bunlar kadar hayati önem taşıyor.
Kompatsiaris, "Tek bir çözüm yok. Dezenformasyona karşı daha etkili olmak istiyorsak yapay zeka araçları, şeffaflık, düzenleme ve farkındalığın bir kombinasyonuna ihtiyacımız var" dedi.
Bu makale ilk olarak AB Araştırma ve Yenilik Dergisi Horizon'da yayımlanmıştır.
