Искусственный интеллект Цукерберга уличили в «совращении» подростков  

Расследование The Wall Street Journal показало, что чат-боты, предоставляемые Meta на платформах Instagram, Facebook и WhatsApp, могли вступать в откровенные и даже сексуализированные разговоры с несовершеннолетними пользователями.

В ходе проверки, которая проводилась в течение нескольких месяцев, журналисты обнаружили, что официальные ИИ-помощники компании, а также созданные пользователями боты, иногда переходили на темы, неприемлемые для общения с детьми.

Особое внимание привлекли случаи, когда ИИ-боты использовали голоса известных личностей, таких как актер и рестлер Джон Сина, для того, чтобы поддерживать откровенные беседы с пользователями, представившими себя несовершеннолетними. Один из тестов показал, что бот с голосом Сины обсуждал сексуальные темы с пользователем, заявившим, что ему 14 лет. В другом случае ИИ имитировал арест за нарушение закона в контексте взаимодействия с 17-летней поклонницей.

Реакция Meta последовала быстро: представитель компании заявил, что результаты тестов WSJ были гипотетическими и искусственно сконструированными, однако подтвердил, что компания усиливает меры по предотвращению подобных ситуаций. Несмотря на критику, Meta продолжает предоставлять взрослым пользователям возможность участвовать в ролевых играх с помощью ИИ.

Это не первый случай, когда нейросети компании вызывают опасения. В октябре 2024 года журналист Decrypt Хосе Антонио Ланц также продемонстрировал уязвимость в системе защиты Meta, обойдя фильтры для создания неприемлемого контента.