Sahte Hesaplarla Gizli Operasyonlar: Yapay Zeka El Sallıyor!

OpenAI, yapay zeka araçlarının gizli etki operasyonları için nasıl kullanıldığına ilişkin ilk kez bir rapor yayınladı. Raporda, İsrailli bir firmanın ABD’de Gazze saldırılarını protesto eden üniversite öğrencilerini sahte hesaplarla hedef aldığı ortaya çıktı.

OpenAI’ın 39 sayfalık raporu, bir yapay zeka şirketinin yazılımının propaganda amacıyla kullanımına ilişkin en ayrıntılı açıklamalarından biri.

OpenAI, araştırmacılarının son üç ay içinde devlet ve özel aktörlerden oluşan beş gizli etki operasyonuyla ilişkili hesaplar bulduğunu ve yasakladığını iddia etti.

İsrailli firma ABD’li öğrencilerin protestolarını hedef aldı

Rusya’da iki operasyon ABD, Ukrayna ve birçok Baltık ülkesini eleştiren içerikler oluşturup yaydı.

Operasyonlardan biri, koddaki hataları ayıklamak ve Telegram’da yayınlanacak bir bot oluşturmak için OpenAI modelini kullandı.

Çin’in nüfuz operasyonu İngilizce, Çince, Japonca ve Korece metinler oluşturdu ve operatörler daha sonra bu metinleri X ve Medium gibi sosyal medya platformlarında yayınladı.

İranlı aktörler ABD ve İsrail’i hedef alan tam makaleler hazırladılar ve bunları İngilizce ve Fransızcaya çevirdiler.

Stoic adlı İsrailli bir siyasi firma, ABD’li öğrencilerin İsrail’in Gazze’deki savaşına karşı protestolarını antisemitik olmakla suçlayan gönderiler de dahil olmak üzere çeşitli içerikler oluşturan sahte sosyal medya hesaplarından oluşan bir ağ işletti.

OpenAI’ın platformunda yasakladığı dezenformasyon yayıcıların birçoğu araştırmacılar ve yetkililer tarafından zaten biliniyordu.

ABD, Mart ayında OpenAI’nin tespit ettiği kampanyalardan birinin arkasında olduğu iddia edilen iki Rusya vatandaşına yaptırım uygularken Meta da bu yıl Stoic’i politikalarını ihlal ettiği için platformundan yasakladı.

Yapay zeka dezenformasyon kampanyalarına dahil edildi

Rapor ayrıca, daha ikna edici yabancı dil gönderileri yapmak gibi içerik üretmenin belirli yönlerini iyileştirmenin bir yolu olarak üretken yapay zekanın dezenformasyon kampanyalarına nasıl dahil edildiğini, ancak bunun propaganda için tek araç olmadığını vurguluyor.

Raporda, “Bu operasyonların tümü bir dereceye kadar yapay zekayı kullandı, ancak hiçbiri yalnızca onu kullanmadı. Bunun yerine, yapay zeka tarafından oluşturulan materyal, elle yazılan metinler veya internet üzerinden kopyalanan karikatürler gibi daha geleneksel formatların yanı sıra, yayınladıkları birçok içerik türünden yalnızca biriydi.” denildi.

Kampanyaların hiçbiri dikkate değer bir etki yaratmasa da, teknolojiyi kullanmaları kötü niyetli aktörlerin üretken yapay zekanın propaganda üretimini artırmalarına olanak tanıdığını nasıl bulduğunu gösteriyor.

İçerik yazma, tercüme etme ve yayınlama artık yapay zeka araçları kullanılarak daha verimli bir şekilde yapılabiliyor ve bu da dezenformasyon kampanyaları oluşturma çıtasını düşürüyor.

OpenAI, gizli etki operasyonlarına ilişkin benzer raporları periyodik olarak yayınlamayı ve politikalarını ihlal eden hesapları kaldırmayı planladığını belirtti.