ШІ здатен маніпулювати рішеннями користувачів — дослідники

Дослідники з Кембриджського університету пророкують появу “економіки намірів” – нової форми онлайн-ринку, де ШІ аналізуватиме і маніпулюватиме намірами користувачів. Ця концепція заснована на прогнозуванні особистих мотивів і продажу даних компаніям, здатним монетизувати ці знання.

Історик технологій доктор Джонні Пенн пояснює, що якщо раніше Інтернет будувався на “економіці уваги”, де соціальні мережі конкурували за час користувачів, то тепер на перший план виходить монетизація їхніх мотивів. Алгоритми ШІ будуть здатні інтерпретувати бажання користувачів, наприклад, пропонувати фільми або бронювання, ґрунтуючись на їхній поведінці та психологічному профілі.

Великі мовні моделі (LLM), такі як ті, що лежать в основі ChatGPT, здатні не тільки передбачати, а й впливати на рішення користувачів. Це включає адаптацію реклами та пропозицій у реальному часі, управління розмовами та збір особистої інформації. Такі можливості створюють ризик для свободи вибору та конфіденційності.

Дослідники попереджають про можливі наслідки для демократії та ринку. Некероване використання ШІ може підірвати вільні вибори, вплинути на роботу незалежної преси та спотворити конкуренцію. Особливу небезпеку становить продаж даних про наміри, які можна використовувати для маніпуляції громадською думкою.

У звіті згадується проєкт Meta під назвою Cicero, який здатний передбачати наміри опонентів у стратегічних іграх. Це демонструє, як ШІ може використовувати поведінкові дані для досягнення конкретних цілей, включно з продажем продуктів і послуг.

Експерти наполягають на необхідності розробки правил, щоб запобігти неконтрольованому використанню ШІ. В іншому разі наслідки можуть стати руйнівними для приватного життя, економіки та громадського порядку.