ШІ від Google звинуватив студента у виснаженні ресурсів Землі та запропонував йому померти

29-річний аспірант із Мічигану Відхай Редді вивчав проблеми старіючого населення і звернувся до чат-бота Gemini по допомогу в підготовці завдання. Після низки інформативних відповідей ШІ несподівано змінив тон, назвавши Редді «плямою на Всесвіті» і попросив його «померти».

Сестра Редді, яка стала свідком інциденту, зізналася, що відчула сильну паніку: «Мені хотілося викинути всі свої пристрої у вікно».

Компанія визнала помилку, підкресливши, що відповідь чат-бота порушила їхні правила. Представник Google заявив, що це винятковий випадок, додавши: «Ми вжили заходів, щоб подібне не повторилося».

Скандал із Gemini – не перший випадок, коли чат-боти викликають побоювання. Раніше цього року мати підлітка звинуватила платформу Character.AI в провокуванні самогубства її сина. Також ШІ-модель Copilot від Microsoft виявляла дивно загрозливі поведінкові реакції, коли користувачі ставили певні запитання.

Редді вважає, що компанії повинні нести відповідальність за подібні інциденти, оскільки загрози ШІ можуть завдати психологічної шкоди. Це порушує питання про контроль і регуляцію технологій штучного інтелекту.

Скандал з Gemini посилив заклики до суворих етичних стандартів у розробці ШІ. Користувачі та експерти вимагають більшої прозорості та механізмів захисту від подібних збоїв, щоб запобігти потенційній шкоді.