Gelişen yapay zeka teknolojisiyle birlikte artık hangi görüntünün gerçek olduğunu anlayabilmek uzmanlık gerektiriyor. Günlük hayatımızda da sık sık karşılaştığımız bu durum özellikle Orta Doğu'daki savaşta da bir hayli fazla görülüyor. BBC Verify’ın analizine göre, ABD-İsrail ile İran arasındaki savaş hakkında çok sayıda yapay zeka üretimi video ve sahte uydu görüntüsü internette hızla yayılıyor. Bu içerikler, çatışmaya ilişkin yanlış veya yanıltıcı iddialarla paylaşılıyor ve sosyal medya platformlarında yüz milyonlarca görüntülenme topluyor.
Uzmanlara göre sosyal medya şirketleri sahte içeriklerle mücadele için sistemlerini geliştirmeye çalışsa da, etkileşim odaklı gelir modelleri ile doğru bilgi yayma hedefi arasında hala ciddi bir gerilim bulunuyor.
Queensland Teknoloji Üniversitesi’nden dijital medya uzmanı Timothy Graham, durumun “gerçekten alarm verici bir ölçeğe ulaştığını” belirtti.
Graham, “Eskiden profesyonel video prodüksiyonu gerektiren şeyler artık yapay zeka araçlarıyla dakikalar içinde yapılabiliyor. Gerçekçi görünen sahte savaş görüntüsü üretmenin önündeki engeller neredeyse tamamen ortadan kalktı” dedi.
ABD ve İsrail, 28 Şubat’ta İran’a yönelik saldırılar başlattı. İran ise buna karşılık olarak İsrail’e, bazı Körfez ülkelerine ve bölgedeki ABD askeri hedeflerine drone ve füze saldırıları düzenledi.
Hızla gelişen çatışmalar nedeniyle birçok kişi sosyal medyayı güncel bilgi edinmek için kullanırken, bu durum sahte içeriklerin de hızla yayılmasına zemin hazırladı.
Sosyal medya platformu X, bu hafta yaptığı açıklamada silahlı çatışmalarla ilgili yapay zeka üretimi videoları etiketlemeden paylaşan içerik üreticilerini geçici olarak gelir programından çıkaracağını duyurdu.
Söz konusu program, paylaşımlarının yüksek görüntülenme, beğeni ve etkileşim alması durumunda kullanıcılara ödeme yapılmasını sağlıyor.
Oxford İnternet Enstitüsü’nden araştırmacı Mahsa Alimardani, bu kararın platformun sorunun büyüklüğünü fark ettiğini gösterdiğini söyledi.
TikTok ile Facebook ve Instagram’ın sahibi Meta ise benzer bir adım atıp atmayacaklarına ilişkin sorulara yanıt vermedi.
BBC Verify’ın incelediği bir yapay zeka videosunda Tel Aviv’e füze saldırısı düzenlendiği görülüyor ve patlama sesleri duyuluyor. Bu video 300’den fazla paylaşımda yer aldı ve on binlerce kez paylaşıldı.
Bazı kullanıcılar videonun gerçek olup olmadığını doğrulamak için X platformunun yapay zeka sohbet botu Grok’a başvurdu. Ancak BBC Verify’ın tespit ettiği bazı durumlarda Grok, yapay zeka ile üretilmiş videonun gerçek olduğunu yanlış şekilde belirtti.
Bir başka sahte videoda ise Dubai’deki Burj Khalifa gökdeleninin alevler içinde olduğu iddia ediliyor. Milyonlarca kez izlenen bu görüntüler, şehirde drone ve füze saldırılarıyla ilgili endişelerin arttığı bir dönemde geniş kitlelere ulaştı.
Alimardani, bu tür içeriklerin insanların doğrulanmış bilgilere olan güvenini zedelediğini söyledi.
BBC Verify’ın analizine göre bu çatışmanın yeni özelliklerinden biri de yapay zeka ile üretilmiş sahte uydu görüntülerinin yayılması oldu.
Gerçek videolar İran’ın Bahreyn’deki ABD Beşinci Filosu karargahına yönelik saldırılarını doğrularken, ertesi gün sosyal medyada paylaşılan bir görüntü üssün ağır hasar aldığını gösterdiğini iddia etti.
Ancak bu fotoğrafın, 2025 yılında çekilmiş gerçek uydu görüntüsünden yapay zeka araçlarıyla düzenlendiği belirlendi. Google’ın SynthID sistemi de görüntünün Google’ın yapay zeka araçlarından biriyle üretildiğini veya düzenlendiğini ortaya koydu.
Uzmanlara göre OpenAI’ın Sora modeli, Google’ın Veo aracı, Çinli Seedance uygulaması ve X platformundaki Grok gibi araçların yaygınlaşması, sahte içerik üretimini hızlandırdı.
Generatif yapay zeka uzmanı Henry Ajder, bu araçların “hiç olmadığı kadar erişilebilir, kolay ve ucuz” hale geldiğini söyledi.
Teknoloji politikaları kuruluşu What To Fix’in yöneticisi Victoire Rio ise yapay zeka içeriklerinin sosyal medyaya neredeyse tamamen otomatik şekilde yüklenebildiğini belirtti.
X platformunun ürün yöneticisine göre sahte videoları yayan hesapların yüzde 99’u, içeriklerden para kazanmayı amaçlıyor.
Graham, platformun milyon görüntülenme başına yaklaşık 8 ila 12 dolar ödeme yaptığını tahmin ediyor ve ekliyor: “Bir kez programa dahil olursanız, viral olan yapay zeka videoları adeta para basma makinesine dönüşüyor. Bu, yanlış bilgi için dev bir ekonomik teşvik oluşturuyor.”