Yapay zekâ tarafından üretilen dezenformasyon, Güney Asya ülkesindeki seçimler öncesinde giderek büyüyen bir sorun hâline geldi.

Benjamin Parkin – Financial Times, New Delhi Muhabiri

Dünyanın dört bir yanındaki politikacılar, yapay zekâ tarafından üretilen dezenformasyonun seçimler öncesinde seçmenleri yanlış yönlendirmek ve toplumsal kutuplaşmayı alevlendirmek için nasıl kullanılabileceği konusunda endişe duyuyor.

Bir ülkede bu zaten gerçekleşiyor: Bangladeş.

Güney Asya'nın 170 milyon nüfuslu ülkesi, ocak ayında sandık başına gidiyor ve bu seçimlere görevdeki Başbakan Şeyh Hasina ile muhalif rakibi Bangladeş Milliyetçi Partisi arasındaki sert ve kutuplaştırıcı iktidar mücadelesi damgasını vuruyor.

Bangladeş'teki hükümet yanlısı haber kaynakları ve influencer'lar, geçtiğimiz aylarda yapay zekâ start-up'ları tarafından sunulan ucuz araçlarla oluşturulan yapay zekâ kaynaklı dezenformasyonu desteklediler.

Sözde bir haber klibinde, yapay zekâ tarafından üretilen bir sunucu, Şeyh Hasina hükümetinin seçimler öncesinde eleştirdiği bir ülke olan ABD'yi yerden yere vuruyor. Ardından kaldırılan başka bir deepfake videoda ise muhalefet liderinin Gazzelilere destek konusunda tutarsız davrandığı görülüyor ki bu, Filistinlilere yönelik güçlü bir kamuoyu sempatisi olan Müslüman çoğunluklu ülkede oldukça yıkıcı bir politik duruş.

ABD, Birleşik Krallık, Hindistan ve Endonezya da dahil olmak üzere 2024 yılında yapılması beklenen birçok büyük seçim öncesinde, manipülatif yapay zekâ içeriklerinin engellenmesi için teknoloji platformları üzerindeki kamuoyu baskısı artıyor. Teknoloji devleri Google ve Meta da geçtiğimiz aylarda konuyla ilgili önlem alarak, siyasi reklamların dijital olarak değiştirilip değiştirilmediğinin partiler tarafından açıklanmasını zorunlu kılacak reklam politikalarını açıkladı.

Ancak Bangladeş'ten gelen örnekler sadece bu yapay zekâ araçlarının seçimlerde nasıl kullanılabileceğini değil; aynı zamanda Amerikan teknoloji şirketleri tarafından göz ardı edilme riski taşıyan daha küçük pazarlarda kullanımlarını kontrol etmenin zorluğunu da gösteriyor.

Bangladeş merkezli medya araştırma şirketi Digitally Right'ın Genel Müdürü Miraj Ahmed Chowdhury, yapay zekâ tarafından üretilen dezenformasyonun "henüz deneme aşamasında" olduğunu ve çoğunun geleneksel fotoğraf ya da video düzenleme platformları kullanılarak oluşturulduğunu, ancak mevcut örnekler üzerinden hareketle bile söz konusu teknolojinin nelere sebep olabileceğinin sinyallerini verdiğini söyledi.

Miraj Ahmed, "Güç sahipleri, kitlesel ölçekte yanlış bilgi ve dezenformasyon üretilmesine olanak tanınan yapay zekâ gibi teknolojilere ve araçlara sahip olduğunda, bu tehdidin ne kadar yıkıcı etkisi olduğunu hayal edebilirsiniz. Platformların ülkeye veya bölgeye gösterdiği ilgi, o bölgenin bir pazar olarak ne kadar önemli olduğuna bağlı" diyerek platformların aldığı önlemlerin de çözüm sunmadığını savundu. 

Yanıltıcı veya yanlış siyasi içerik oluşturmak için yapay zekâ kullanma becerisine küresel odaklanma, OpenAI'ın ChatGPT'si ve yapay zekâ video oluşturucuları gibi güçlü araçların yaygınlaşmasıyla geçtiğimiz yıl arttı.

2023’ün başlarında, ABD Cumhuriyetçi Ulusal Komitesi, Başkan Joe Biden yönetiminde distopik bir geleceği tasvir etmek için yapay zekâ tarafından oluşturulan görüntüleri kullanan bir saldırı reklamı yayınladı. YouTube ise Venezuela’da Devlet Başkanı Nicolás Maduro'nun rejimi lehine dezenformasyonu teşvik etmek için yapay zekâ tarafından üretilen haber sunucularını kullanan birkaç hesabı askıya aldı.

Bangladeş'te dezenformasyon, seçimler öncesinde gergin bir siyasi iklimi körüklüyor. Şeyh Hasina, muhalefeti baskı altına aldı. Binlerce lider ve aktivist, eleştirmenlerin seçimlere kendi lehine hile karıştırma girişimi olduğu uyarısıyla tutuklandı ve ABD'nin özgür ve adil seçimler için hükümete açıkça baskı yapmasına neden oldu.

BD Politico adlı online haber kuruluşu tarafından eylül ayında X'te yayınlanan bir videoda, "World News" programının bir sunucusu, ayaklanma görüntülerinin arasına serpiştirilmiş bir stüdyo bölümü sunarak ABD diplomatlarını Bangladeş seçimlerine müdahale etmekle suçluyor ve siyasi şiddetten onları sorumlu tutuyordu.

Video, aylık 24 dolar gibi düşük bir ücret karşılığında yapay zekâ avatarları tarafından yönetilen klipler oluşturmasına olanak tanıyan Los Angeles merkezli bir yapay zekâ video üreticisi olan HeyGen kullanılarak hazırlanmıştı. "Edward" adlı aynı sunucu, HeyGen'in tanıtım içeriğinde, platformun kullanıcılarına sunulan -kendileri de gerçek aktörlerden oluşturulan- çeşitli avatarlardan biri olarak görülebilir. X, BD Politico ve HeyGen ile ilgili yorum taleplerine yanıt vermedi.

Diğer örnekler arasında Meta'nın Facebook'unda yayınlanan ve sürgündeki BNP lideri Tarique Rahman'a ait olduğu iddia edilen ve partinin ABD'yi kızdırmamak için Gazze konusunda "sessiz kalmasını" öneren muhalefet karşıtı deepfake videolar da yer alıyor. Bir düşünce kuruluşu olan Tech Global Institute ve kâr amacı gütmeyen medya kuruluşu Witness, sahte videonun muhtemelen yapay zekâ tarafından üretildiği sonucuna vardı.

BNP yetkilisi AKM Wahiduzzaman, partisinin Meta'dan bu tür içerikleri kaldırmasını istediğini ancak "platformun cevap verme zahmetine bile girmediklerini" söyledi. Meta, Financial Times'ın yorum için kendisiyle temasa geçmesinin ardından videoyu kaldırdı.

Tel Aviv merkezli yapay zekâ video platformu D-ID kullanılarak oluşturulan bir başka deepfake videoda, BNP'nin gençlik kanadı lideri Rashed Iqbal Khan, Tech Global Institute'un kendisini itibarsızlaştırma çabası olduğunu söylediği bir şekilde yaşı hakkında yalan söylerken gösteriliyor.

D-ID, kullanım şartlarını ihlal ettiği için kullanıcıyı platformdan engellemek için önlemler aldığını söyledi ve "Teknolojimiz dezenformasyon yaymak veya diğer etik olmayan kullanımlar için kullanılmamasını öngören katı kurallara sahip" açıklamasında bulundu.

Tech Global Institute kurucusu ve eski Meta yöneticisi Sabhanaz Rashid Diya, bu tür dezenformasyonların tespit edilmesinde karşılaşılan temel zorluklardan birinin güvenilir yapay zekâ tespit araçlarının eksikliği olduğunu ve kullanıma hazır ürünlerin “özellikle İngilizce olmayan” içerikleri tespit etmede etkisiz kaldığını söyledi. 

Rashid Diya, siyasi reklamlarda yapay zekâyı düzenlemeye odaklanan büyük teknoloji platformları tarafından önerilen çözümlerin, reklamların siyasi iletişimin daha küçük bir parçası olduğu Bangladeş gibi ülkelerde sınırlı bir etkiye sahip olacağını da sözlerine ekledi.

Diya, "Yapay zekânın dezenformasyon saldırısını ele almak için ortaya atılan çözümler daha çok batı merkezli. Teknoloji platformları, kendileri için yeterli kazanca sahip olmayan diğer ülkelerde bu konuyu o kadar ciddiye almıyor" açıklamasında bulundu.

Sorun, regülasyon eksikliği veya yetkililer tarafından seçici olarak uygulanması nedeniyle daha da kötüleşiyor. Örneğin Bangladeş'in Siber Güvenlik Yasası, hükümete çevrimiçi muhalefeti bastırmak için acımasız yetkiler verdiği için eleştiriliyor. Bangladeş'in internet düzenleyicisi, çevrimiçi yanlış bilgileri kontrol etmek için neler yaptığına yönelik açıklama taleplerini yanıtsız bıraktı.

Diya, yapay zekâ tarafından üretilen içeriğin kendisinden daha büyük bir tehdidin, politikacıların ve diğerlerinin, rahatsız edici bilgileri itibarsızlaştırmak için yalnızca deepfake olasılığını kullanma ihtimali olduğunu savundu.

Örneğin Hindistan'da bir politikacı, partisindeki yolsuzluğu tartıştığı iddia edilen bir ses kaydına sahte olduğunu iddia ederek yanıt verdi. Bu iddia daha sonra teyit platformları tarafından yalanlandı.

Sabhanaz Rashid Diya, sorunun bölgesel değil küresel olduğunu "Bir politikacı için 'bu deepfake' ya da 'bu yapay zekâ tarafından üretilmiş' demek ve kafa karışıklığı yaratmak çok kolay. Yapay zekâ tarafından üretilen içerik fikrinin, insanların doğru ve yanlış olduğuna inandıkları şeyleri bulanıklaştırmak için nasıl silah hâline getirildiğini görmek küresel açıdan bir zorluk olacak” açıklamasıyla ifade ediyor.