OpenAI'nin Raporu: Yapay Zeka Dezenformasyon İçin Nasıl Kullanıldı?

OpenAI tarafından yayınlanan 39 sayfalık bir rapor, yapay zeka teknolojilerinin savaş halindeki ve bölgesel gerilimler yaşayan ülkeler tarafından nasıl kullanıldığını detaylandırıyor. Rapora göre, en az dört devlet yapay zeka teknolojilerini yanlış bilgi yaymak ve toplumları manipüle etmek için kullanıyor.

YAPAY ZEKA İLE PROPAGANDA İÇERİĞİ ÜRETİMİ

OpenAI açıklamasına göre, kötü niyetli aktörler sosyal medya platformlarında propaganda içeriği oluşturup yayınlamak ve bu içerikleri farklı dillere çevirmek için şirketin yapay zeka modellerini kullandı. Bu çerçevede, son üç ay içinde gizli etki operasyonlarıyla ilişkili devlet ve özel aktörlerden oluşan beş hesap tespit edilip yasaklandı.

DEVLETLERİN DEZENFORMASYON YARIŞI

Raporda, Rusya, Çin, İsrail ve İran gibi devletlerin yapay zeka araçlarını belli konularda yanlış fikirler yaymak ve kitleleri yönlendirmek için kullandığı belirtiliyor. Rusya’nın tespit edilen iki hesabı, ABD, Ukrayna ve birçok Baltık ülkesini eleştiren içerikler oluşturdu. Operasyonlardan biri, koddaki hataları ayıklamak ve Telegram’da yayınlanacak bir bot oluşturmak için OpenAI modelini kullandı.

Çin’in nüfuz operasyonu ise İngilizce, Çince, Japonca ve Korece metinler oluşturdu ve bu metinler Twitter ve Medium’da yayınlandı. İranlı kullanıcılar, ABD ve İsrail’e saldıran makaleler hazırladı ve bunları İngilizce ve Fransızcaya çevirdi.

İSRAİL'İN ABD'Lİ ÖĞRENCİ PROTESTOLARINA YÖNELİK FAALİYETLERİ

Stoic adlı İsrailli bir siyasi firma, ABD’li öğrencilerin Filistin destekçisi protestolarını antisemitik olmakla suçlayan gönderiler de dahil olmak üzere çeşitli içerikler oluşturan sahte sosyal medya hesaplarından oluşan bir ağ işletiyordu. OpenAI’nin platformunda yasakladığı dezenformasyon yayıcıların birçoğu araştırmacılar ve yetkililer tarafından zaten biliniyordu.

ABD, mart ayında OpenAI’ın tespit ettiği iki Rus kişiye yaptırım uygularken, Instagram’ın sahibi Meta da bu yıl Stoic’i politikalarını ihlal ettiği için platformunda yasakladı.

TEK YÖNTEM YAPAY ZEKA DEĞİL

Rapor ayrıca, daha ikna edici yabancı dil gönderileri yapmak gibi içerik üretmenin belirli yönlerini iyileştirmenin bir yolu olarak üretken yapay zekanın dezenformasyon kampanyalarına dahil edildiğini, ancak bunun propaganda için tek araç olmadığını vurguluyor. Kampanyaların hiçbiri kayda değer bir etki yaratmasa da, üretken yapay zekanın kötü niyetli aktörlerin propaganda üretimini artırmasına olanak sağladığı ortaya konuluyor.

YAPAY ZEKANIN DEZENFORMASYONDAKİ ROLÜ

OpenAI’ın raporu, yapay zeka teknolojilerinin yanlış bilgi yaymak için nasıl kullanılabileceğine dair somut deliller sunuyor. Özellikle sosyal medya platformlarında yayılan bu dezenformasyon içerikleri, hedef kitleleri yanlış bilgilendirmeyi amaçlıyor. Yapay zeka modelleri, farklı dillerde içerik üreterek bu yanlış bilgilerin geniş kitlelere ulaşmasını sağlıyor.

ARAŞTIRMALAR VE YASAKLAMALAR

OpenAI, yapay zeka teknolojilerini kötüye kullanan aktörleri tespit etmek ve durdurmak için çalışmalarını sürdürüyor. Bu bağlamda, platformunda dezenformasyon yayan hesapları yasaklayarak bu tür operasyonların önüne geçmeye çalışıyor. Ayrıca, diğer teknoloji şirketleri ve devlet kurumları ile işbirliği yaparak dezenformasyonla mücadele etmeye devam ediyor.