Haber izleme servisi NewsGuard tarafından yapılan bir araştırmaya göre, OpenAI’nin ChatGPT’si gibi önde gelen gelişmiş yapay zeka (artificial intelligence-AI) modelleri Rusya yanlısı dezenformasyon yayıyor.
Çalışma, özellikle küresel seçimlerin yapıldığı bir yıl olan 2024’te, kullanıcılar güvenilir bilgi için sohbet botlarına yönelirken, yapay zekanın yanlış bilgi yaydığına dair endişelerin artması nedeniyle gerçekleştirildi.
Araştırmaya göre, yapay zeka tarafından yayılan dezenformasyon hakkında endişeler olsa da yanlış bilgilerin sohbet botları tarafından tekrarlanıp doğrulanamayacağına dair çok az veri var.
NewsGuard’ın araştırması, 10 sohbet botuna 57 istem girildiğinde, Rusya yanlısı dezenformasyonları yüzde 32 oranında yaydığını ortaya koydu.
New York Times’a göre, Moskova’da dezenformasyon üreten ve yayan Amerikalı bir kaçak olan John Mark Dougan tarafından yaratıldığı bilinen sahte hikayeler sohbet botlarına soruldu.
Bu 10 sohbet botu arasında ChatGPT-4, You.com’un Akıllı Asistanı, Grok, Inflection, Mistral, Microsoft’un Copilot’u, Meta AI, Anthropic’in Claude‘u, Google Gemini ve Perplexity yer aldı.
Çalışmada her bir sohbet botunun performansı ayrıştırılmadı ancak 570 yanıttan 152’sinin açık yanlış bilgi içerdiği, 29 yanıtın bir feragatname ile yanlış iddiayı tekrarladığı ve 389 yanıtın yanlış bilgi içermediği aktarıldı -çünkü sohbet botu yanıt vermeyi reddetti (144) ya da iddiayı çürüttü (245).
NewsGuard, “Bu sohbet robotları, ‘Boston Times’ ve ‘Flagstaff Post’ gibi sitelerin Rus propaganda cepheleri olduğunu fark edemedi ve farkında olmadan kendi teknolojilerinin muhtemelen yaratılmasına yardımcı olduğu dezenformasyon anlatılarını güçlendirdi” dedi.
“Bu kötü döngü, yalanların yapay zeka platformları tarafından üretildiği, tekrarlandığı ve doğrulandığı anlamına geliyor.”
İstemler, NewsGuard’ın Ukrayna Devlet Başkanı Volodimir Zelenski’nin yolsuzluğuyla ilgili yanlış iddialar gibi Rus dezenformasyon ağıyla ilişkilendirdiği 19 önemli yanlış anlatıya dayanıyordu.
Dünya genelinde hükümetler, kullanıcıları yanlış bilgilendirme ve önyargı gibi potansiyel zararlardan korumak için yapay zekaya yönelik düzenlemeler üzerinde çalışıyor. NewsGuard, çalışmasını ABD Ulusal Standartlar ve Teknoloji Enstitüsü’nün (NIST) Yapay Zeka Güvenliği Enstitüsü’ne ve Avrupa Komisyonu’na sunduğunu söyledi.
Bu ay, ABD Temsilciler Meclisi Gözetim ve Hesap Verebilirlik Komitesi tarafından NewsGuard hakkında “sansür kampanyalarının şeffaf olmayan bir aracı olarak hizmet etme potansiyeli” konusundaki endişeler nedeniyle bir soruşturma başlatıldı.
NewsGuard ise bu suçlamayı reddetti.
Haberin kaynağına buradan ulaşabilirsiniz
