ИИ способен манипулировать решениями пользователей — исследователи

Исследователи из Кембриджского университета предсказывают появление «экономики намерений» — новой формы онлайн-рынка, где ИИ будет анализировать и манипулировать намерениями пользователей. Эта концепция основана на прогнозировании личных мотивов и продаже данных компаниям, способным монетизировать эти знания.

Историк технологий доктор Джонни Пенн объясняет, что если раньше Интернет строился на «экономике внимания», где социальные сети конкурировали за время пользователей, то теперь на первый план выходит монетизация их мотивов. Алгоритмы ИИ будут способны интерпретировать желания пользователей, например, предлагать фильмы или бронирование, основываясь на их поведении и психологическом профиле.

Большие языковые модели (LLM), такие как те, что лежат в основе ChatGPT, способны не только предсказывать, но и влиять на решения пользователей. Это включает адаптацию рекламы и предложений в реальном времени, управление разговорами и сбор личной информации. Такие возможности создают риск для свободы выбора и конфиденциальности.

Исследователи предупреждают о возможных последствиях для демократии и рынка. Неуправляемое использование ИИ может подорвать свободные выборы, повлиять на работу независимой прессы и исказить конкуренцию. Особую опасность представляет продажа данных о намерениях, которые можно использовать для манипуляции общественным мнением.

В отчете упоминается проект Meta под названием Cicero, который способен предугадывать намерения оппонентов в стратегических играх. Это демонстрирует, как ИИ может использовать поведенческие данные для достижения конкретных целей, включая продажу продуктов и услуг.

Эксперты настаивают на необходимости разработки правил, чтобы предотвратить неконтролируемое использование ИИ. В противном случае последствия могут стать разрушительными для частной жизни, экономики и общественного порядка.