Эксперты выявили серьезную угрозу для пользователя в новом поиске от ChatGPT

Поисковая система ChatGPT, разработанная OpenAI и запущенная в этом месяце, оказалась подвержена атакам с использованием скрытого текста. Как сообщает британское издание The Guardian, искусственный интеллект можно заставить генерировать искаженные сводки и даже вредоносный код.

Эта функция поиска была создана для упрощения анализа данных, например, для резюмирования отзывов о продуктах. Однако тесты показали, что систему можно манипулировать, скрывая текст на веб-страницах. Это позволяет обойти фильтры и формировать исключительно положительные обзоры, игнорируя негативные комментарии.

Более того, эта уязвимость позволяет хакерам незаметно внедрить вредоносный код на сайте, что создает серьезную угрозу для пользователей. Специалисты уже призвали OpenAI незамедлительно решить проблему, поскольку ситуация несет риски для безопасности людей.

Подобные атаки на языковые модели уже известны, но впервые они были продемонстрированы на реальном продукте поиска. Google, обладающий значительным опытом в области предотвращения подобных угроз, способен более эффективно справляться с такими вызовами.

OpenAI пока воздерживается от комментариев по поводу конкретного инцидента. Тем не менее компания подчеркивает, что принимает меры для блокировки вредоносных сайтов и продолжает совершенствовать свои технологии защиты.

Эксперты отмечают, что для обеспечения безопасности подобных систем требуется более жесткий контроль за взаимодействием с источниками данных.