xAI випадково розкрив сотні тисяч діалогів Grok через пошуковики

АІ-стартап xAI, що належить Ілону Маску, допустив витік сотень тисяч діалогів користувачів чат-бота Grok, повідомляє Forbes. Бесіди опинилися у вільному доступі через Google та інші пошукові системи.

Механізм пов’язаний із кнопкою “поділитися” в інтерфейсі Grok. При її натисканні створюється унікальне посилання, яке можна відправити в месенджери або поштою. Однак з’ясувалося, що ці посилання індексуються пошуковими системами на кшталт Google, Bing і DuckDuckGo, перетворюючи приватні розмови на публічні.

За даними видання, проіндексовано понад 370 000 діалогів. Серед них трапляються як нешкідливі завдання – наприклад, генерація твітів, так і вкрай сумнівний контент: фейкові новини про теракти в Кашмірі, інструкції зі злому криптогаманців та інших незаконних дій.

У витікших листуваннях виявлено особисті медичні та психологічні питання, паролі, завантажені зображення, таблиці та текстові документи. Деякі запити містили непристойні або ксенофобські висловлювання.

Особливу тривогу викликає те, що Grok надавав інструкції зі створення наркотиків, шкідливого ПЗ, що самопоширюється, а також поради з виготовлення вибухівки та методів суїциду. В одній із бесід бот навіть запропонував план замаху на Ілона Маска.