Конфлікт Ізраїлю та Ірану викликав безпрецедентну хвилю ШІ-дезінформації

З моменту початку ізраїльських ударів по території Ірану 13 червня, в інтернеті стрімко поширюється дезінформація, створена за допомогою генеративного ШІ. Як встановила редакція BBC Verify, на платформах X, TikTok та Instagram публікують сотні відео, які нібито демонструють руйнування в Ізраїлі та “військові успіхи” Тегерана – хоча насправді більша частина роликів є підробленою.

Найбільш популярні фейки – це ШІ- змодельовані обстріли Тель-Авіва, підбиті винищувачі F-35 і відео нічних ударів. Три найпопулярніші підробки зібрали понад 100 млн переглядів. В одному з таких роликів, поширеному в TikTok, нібито показано F-35, збитий над іранською пустелею, – на ділі це виявився фрагмент з авіасимулятора. TikTok видалив публікацію після звернення журналістів.

За словами глави Get Real Еммануель Саліба, це перший випадок масштабного застосування генеративного ШІ в умовах активного військового конфлікту. Верифікація нічних кадрів особливо ускладнена, чим активно користуються автори фейків. Уточнюється, що одні з сюжетів, які найактивніше поширюють, – це удари по F-35, які можуть бути пов’язані з російськими операціями впливу, спрямованими на підрив довіри до західної зброї.

З іншого боку, проізраїльські акаунти поширюють старі відео протестів в Ірані, видаючи їх за свіжі акції на підтримку Ізраїлю, а також демонструють нібито наростаюче невдоволення владою. За оцінкою аналітиків, і з ізраїльського, і з іранського боку діють так звані “фермери охоплення” – користувачі, які заробляють на приверненні уваги до конфліктного контенту.

Акаунти-дезінформатори отримують масовий приріст передплатників: наприклад, Daily Iran Military зріс удвічі – з 700 тисяч до 1,4 млн лише за шість днів. Багато з цих сторінок використовують назви, що офіційно звучать, і верифіковані галочки, хоча залишається невідомим, хто саме стоїть за ними.

Дослідники зазначають, що вірусність таких публікацій часто забезпечується звичайними користувачами. Метью Фаччані з Університету Нотр-Дам пояснює це тим, що в умовах політичних або воєнних протистоянь люди особливо схильні ділитися інформацією, що підтверджує їхні погляди – особливо якщо вона викликає сильні емоції.

TikTok заявив BBC, що бореться з порушеннями своїх правил, що стосуються неправдивої інформації, і співпрацює з незалежними фактчекерами. Meta, власник Instagram, коментарів не надала.