Instagram´da 1,4 milyondan fazla takipçisi olan ve yapay zeka aracılığıyla oluşturulan sahte bir haham figürünü kullanarak antisemit komplo teorileri yayan "Rabbi Goldman" hesabı, Meta tarafından yayından kaldırıldı.
Combat Antisemitism Movement (Antisemitizm ile Mücadele Hareketi-CAM) tarafından yayımlanan bir rapor, "Rabbi Goldman" hesabının Yahudi karşıtı nefret yaymak için yapay zeka tarafından üretilen sahte otorite figürlerini kullandığını ortaya koydu. Hesapta paylaşılan videolarda, lüks bir uçakta oturan kurgusal bir hahamın, Yahudilerin vergi kaçırmak için pahalı sanat eserleri aldığı gibi asılsız iddialar ortaya attığı görülüyordu. Ayrıca, hesabın takipçilerine 9 dolarlık sahte bir "zengin olma el kitabı" satmaya çalışan, Güney Hindistan merkezli dolandırıcılar tarafından yönetildiği tespit edildi.
CAM raporu, toplamda 2,1 milyon takipçisi olan ve klasik antisemit klişeleri besleyen 12 farklı yapay zeka hahamı tespit etti. Örneğin, 57 bin takipçili "Rabbi Rothstein" hesabı, Yahudilerin para hırsı ve vergi kaçırma üzerine kurulu nefret söylemlerini yaymaya devam ediyor. Goldman hesabının kapatılmasının hemen ardından, yedek hesap olduğunu iddia eden çok sayıda yeni profilin mantar gibi türemesi ise platformun denetim yetersizliğini gözler önüne seriyor.
ABD Temsilciler Meclisi Üyesi Josh Gottheimer, Meta’ya hesap verebilirlik çağrısında bulunarak, yapay zeka destekli bu tür içeriklerin gerçek dünyada tehlikeli sonuçlar doğurabileceği konusunda uyardı. Yahudi toplum liderleri, Meta’nın üçüncü taraf doğrulama sistemini sonlandırıp, Elon Musk’ın X’te yaptığı gibi topluluk notlarına geçmesinin, antisemit içeriklerin yayılmasına kapıları sonuna kadar açmasından endişe ediyor.
Bu olay, dijital platformlarda yapay zeka ile üretilen dezenformasyonun ulaştığı boyutları ve bu tür organize nefret kampanyalarına karşı daha sıkı denetim mekanizmalarına duyulan acil ihtiyacı bir kez daha kanıtlamış oldu.
