ИИ от Google обвинил студента в истощении ресурсов Земли и предложил ему умереть

29-летний аспирант из Мичигана Видхай Редди изучал проблемы стареющего населения и обратился к чат-боту Gemini за помощью в подготовке задания. После ряда информативных ответов ИИ неожиданно изменил тон, назвав Редди «пятном на Вселенной» и попросил его «умереть».

Сестра Редди, которая стала свидетелем инцидента, призналась, что испытала сильную панику: «Мне хотелось выбросить все свои устройства в окно».

Компания признала ошибку, подчеркнув, что ответ чат-бота нарушил их правила. Представитель Google заявил, что это исключительный случай, добавив: «Мы приняли меры, чтобы подобное не повторилось».

Скандал с Gemini — не первый случай, когда чат-боты вызывают опасения. Ранее в этом году мать подростка обвинила платформу Character.AI в провоцировании самоубийства ее сына. Также ИИ-модель Copilot от Microsoft проявляла странно угрожающие поведенческие реакции, когда пользователи задавали определенные вопросы.

Редди считает, что компании должны нести ответственность за подобные инциденты, поскольку угрозы ИИ могут нанести психологический вред. Это поднимает вопрос о контроле и регуляции технологий искусственного интеллекта.

Скандал с Gemini усилил призывы к строгим этическим стандартам в разработке ИИ. Пользователи и эксперты требуют большей прозрачности и механизмов защиты от подобных сбоев, чтобы предотвратить потенциальный вред.