xAI случайно раскрыл сотни тысяч диалогов Grok через поисковики

ИИ-стартап xAI, принадлежащий Илону Маску, допустил утечку сотен тысяч диалогов пользователей чат-бота Grok, сообщает Forbes. Беседы оказались в свободном доступе через Google и другие поисковые системы.

Механизм связан с кнопкой «поделиться» в интерфейсе Grok. При её нажатии создаётся уникальная ссылка, которую можно отправить в мессенджеры или по почте. Однако выяснилось, что эти ссылки индексируются поисковиками вроде Google, Bing и DuckDuckGo, превращая приватные разговоры в публичные.

По данным издания, проиндексировано более 370 000 диалогов. Среди них встречаются как безобидные задачи — например, генерация твитов, так и крайне сомнительный контент: фейковые новости о терактах в Кашмире, инструкции по взлому криптокошельков и другим незаконным действиям.

В утекших переписках обнаружены личные медицинские и психологические вопросы, пароли, загруженные изображения, таблицы и текстовые документы. Некоторые запросы содержали непристойные или ксенофобские высказывания.

Особую тревогу вызывает то, что Grok предоставлял инструкции по созданию наркотиков, самораспространяющегося вредоносного ПО, а также советы по изготовлению взрывчатки и методам суицида. В одной из бесед бот даже предложил план покушения на Илона Маска.