Konflikt izraelsko-irański wywołał bezprecedensową falę dezinformacji AI

Od czasu rozpoczęcia izraelskich ataków na Iran w dniu 13 czerwca, dezinformacja stworzona przez generatywną sztuczną inteligencję szybko rozprzestrzenia się w Internecie. Jak odkrył zespół redakcyjny BBC Verify, setki filmów rzekomo pokazujących zniszczenia w Izraelu i „sukcesy militarne” Teheranu zostały opublikowane na X, TikTok i Instagramie – choć w rzeczywistości większość z nich jest fałszywa.

Najczęściej oglądane fałszywki to symulowane przez sztuczną inteligencję ostrzały Tel Awiwu, zestrzelone myśliwce F-35 i filmy z nocnych ataków. Trzy najpopularniejsze podróbki zgromadziły ponad 100 milionów wyświetleń. Jeden z tych filmów, rozpowszechniany na TikTok, rzekomo pokazywał F-35 zestrzelony nad irańską pustynią – w rzeczywistości okazał się fragmentem z symulatora lotu. TikTok usunął publikację po apelu dziennikarzy.

Według Emmanuela Saliby, szefa Get Real, jest to pierwszy przypadek wykorzystania generatywnej sztucznej inteligencji na dużą skalę w aktywnym konflikcie zbrojnym. Weryfikacja nocnych nagrań jest szczególnie trudna, co jest aktywnie wykorzystywane przez autorów fałszywek. Wskazuje się, że niektóre z najbardziej aktywnie rozpowszechnianych historii dotyczą ataków na samoloty F-35, co może być związane z rosyjskimi operacjami wpływu mającymi na celu podważenie zaufania do zachodniej broni.

Z drugiej strony, proizraelskie konta rozpowszechniają stare filmy z protestów w Iranie, przedstawiając je jako nowe działania wspierające Izrael, a także demonstrują rzekomo rosnące niezadowolenie z władz. Według analityków, zarówno po stronie izraelskiej, jak i irańskiej są tak zwani „farmerzy zasięgu” – użytkownicy, którzy zarabiają pieniądze, zwracając uwagę na treści związane z konfliktem.

Аккаунты-дезинформаторы получают массовый прирост подписчиков: например, Daily Iran Military вырос в два раза — с 700 тысяч до 1,4 млн всего за шесть дней. Многие из этих страниц используют официально звучащие названия и верифицированные галочки, хотя остаётся неизвестным, кто именно стоит за ними.

Исследователи отмечают, что вирусность таких публикаций часто обеспечивается обычными пользователями. Мэтью Фаччани из Университета Нотр-Дам объясняет это тем, что в условиях политических или военных противостояний люди особенно склонны делиться информацией, подтверждающей их взгляды — особенно если она вызывает сильные эмоции.

TikTok заявил BBC, что борется с нарушениями своих правил, касающихся ложной информации, и сотрудничает с независимыми фактчекерами. Meta, владелец Instagram, комментариев не предоставила.