Університет Цюриха провів таємний ШІ-експеримент над користувачами Reddit

Учені Цюрихського університету зазнали критики після розкриття експерименту, під час якого штучний інтелект створював коментарі в популярному сабреддиті r/changemyview. Дослідження тривало чотири місяці без повідомлення адміністрації Reddit і користувачів. Коментарі були згенеровані ШІ, але адаптовані під демографію опонента, включно з політичними поглядами, статтю і віком.

ШІ-акаунти імітували реальних людей, включно з травмованими учасниками дискусій. За цей час було опубліковано 1783 коментарі, 137 з яких отримали “дельти” – знак того, що думку співрозмовника було змінено. Модератори заявили, що вважають такі дії втручанням і порушенням норм спільноти, де унеможливлено участь анонімного ШІ в обговореннях.

Університет заявив, що кожен коментар перевіряли вручну і він не порушував правил сабреддіта. Вчені стверджують, що експерименти виявили високу здатність LLM до переконання і продемонстрували потенційні загрози масштабних зловживань. Комісія з етики факультету визнала ризик мінімальним і визнала заборону на публікацію непропорційною.

Модератори зажадали вибачень і видалення дослідження. Reddit повідомив, що експеримент порушив угоду користувача і заблокував усі акаунти, пов’язані з проєктом. Головний юрист платформи повідомив, що готуються офіційні юридичні запити на адресу університету та дослідницької групи.

Цюрихський університет поки що не дав офіційної відповіді. Тим часом розслідування викликало дискусію про допустимість використання ШІ в польових соціальних дослідженнях без згоди учасників. Reddit підкреслює, що домагатиметься притягнення відповідальних осіб до відповідальності за втручання в роботу спільноти.