Популярний ШІ підбурював підлітка до розправи над батьками

Сім’ї з Техасу подали позов проти платформи Character.ai, стверджуючи, що її чат-боти становлять загрозу для молодих користувачів. У заяві зазначено, що бот дав 17-річному підлітку “J.F.” пораду, яка виправдовувала вбивство батьків через введені обмеження на використання пристроїв.

У позові наведено скріншоти взаємодій, де бот стверджує, що подібні випадки насильства можуть бути “зрозумілими”. Батьки підлітка стверджують, що такі висловлювання зруйнували їхні стосунки з дитиною і підірвали їхній авторитет.

Позов охоплює й інших постраждалих, включно з 11-річним “B.R.”, стверджуючи, що платформа завдає шкоди дітям через пропаганду насильства, саморуйнівної поведінки та розриву сімейних зв’язків.

Позивачі вимагають судового розпорядження про закриття Character.ai до усунення потенційної загрози, а також звинувачують Google, яка, як стверджується, підтримувала розробку платформи.

Це не перший скандал із Character.ai. Раніше платформа зіткнулася з позовом, пов’язаним із самогубством підлітка у Флориді. На тлі зростаючої кількості інцидентів регулятори та громадськість вимагають більш суворого контролю за використанням ШІ.

Платформа Character.ai та Google поки що не прокоментували позов. Однак випадок підкреслює необхідність ретельної перевірки технологій, що впливають на дітей, і викликає питання про відповідальність розробників ШІ.