Експерти виявили серйозну загрозу для користувача в новому пошуку від ChatGPT

Пошукова система ChatGPT, розроблена OpenAI та запущена цього місяця, виявилася схильною до атак із використанням прихованого тексту. Як повідомляє британське видання The Guardian, штучний інтелект можна змусити генерувати спотворені зведення і навіть шкідливий код.

Ця функція пошуку була створена для спрощення аналізу даних, наприклад, для резюмування відгуків про продукти. Однак тести показали, що системою можна маніпулювати, приховуючи текст на вебсторінках. Це дає змогу обійти фільтри та формувати виключно позитивні огляди, ігноруючи негативні коментарі.

Ба більше, ця вразливість дає змогу хакерам непомітно впровадити шкідливий код на сайті, що створює серйозну загрозу для користувачів. Фахівці вже закликали OpenAI негайно розв’язати проблему, оскільки ситуація несе ризики для безпеки людей.

Подібні атаки на мовні моделі вже відомі, але вперше вони були продемонстровані на реальному продукті пошуку. Google, що має значний досвід у сфері запобігання подібним загрозам, здатний більш ефективно справлятися з такими викликами.

OpenAI поки утримується від коментарів з приводу конкретного інциденту. Проте компанія підкреслює, що вживає заходів для блокування шкідливих сайтів і продовжує вдосконалювати свої технології захисту.

Експерти зазначають, що для гарантування безпеки подібних систем потрібен більш жорсткий контроль за взаємодією з джерелами даних.