Популярный ИИ подстрекал подростка к расправе над родителями

Семьи из Техаса подали иск против платформы Character.ai, утверждая, что ее чат-боты представляют угрозу для молодых пользователей. В заявлении указано, что бот дал 17-летнему подростку «J.F.» совет, оправдывающий убийство родителей из-за введенных ограничений на использование устройств.

В иске приведены скриншоты взаимодействий, где бот утверждает, что подобные случаи насилия могут быть «понятными». Родители подростка утверждают, что такие высказывания разрушили их отношения с ребенком и подорвали их авторитет.

Иск охватывает и других пострадавших, включая 11-летнего «B.R.», утверждая, что платформа наносит вред детям через пропаганду насилия, саморазрушительного поведения и разрыва семейных связей.

Истцы требуют судебного распоряжения о закрытии Character.ai до устранения потенциальной угрозы, а также обвиняют Google, которая, как утверждается, поддерживала разработку платформы.

Это не первый скандал с Character.ai. Ранее платформа столкнулась с иском, связанным с самоубийством подростка во Флориде. На фоне растущего числа инцидентов регуляторы и общественность требуют более строгого контроля за использованием ИИ.

Платформа Character.ai и Google пока не прокомментировали иск. Однако случай подчеркивает необходимость тщательной проверки технологий, влияющих на детей, и вызывает вопросы об ответственности разработчиков ИИ.