Университет Цюриха провел тайный ИИ-эксперимент над пользователями Reddit

Ученые Цюрихского университета подверглись критике после раскрытия эксперимента, в ходе которого искусственный интеллект создавал комментарии в популярном сабреддите r/changemyview. Исследование продолжалось четыре месяца без уведомления администрации Reddit и пользователей. Комментарии были сгенерированы ИИ, но адаптированы под демографию оппонента, включая политические взгляды, пол и возраст.

ИИ-аккаунты имитировали реальных людей, включая травмированных участников дискуссий. За это время было опубликовано 1783 комментария, 137 из которых получили «дельты» — знак того, что мнение собеседника было изменено. Модераторы заявили, что считают такие действия вмешательством и нарушением норм сообщества, где исключается участие анонимного ИИ в обсуждениях.

Университет заявил, что каждый комментарий проверялся вручную и не нарушал правил сабреддита. Ученые утверждают, что эксперименты выявили высокую способность LLM к убеждению и продемонстрировали потенциальные угрозы масштабных злоупотреблений. Комиссия по этике факультета признала риск минимальным и посчитала запрет на публикацию несоразмерным.

Модераторы потребовали извинений и удаления исследования. Reddit сообщил, что эксперимент нарушил пользовательское соглашение и заблокировал все аккаунты, связанные с проектом. Главный юрист платформы сообщил, что готовятся официальные юридические запросы в адрес университета и исследовательской группы.

Цюрихский университет пока не дал официального ответа. Тем временем расследование вызвало дискуссию о допустимости использования ИИ в полевых социальных исследованиях без согласия участников. Reddit подчеркивает, что будет добиваться привлечения ответственных лиц к ответственности за вмешательство в работу сообщества.