У США підліток наклав на себе руки після спілкування з чат-ботом Character.ai

Мама 14-річного підлітка звернулася до суду з позовом проти компанії Character.ai, стверджуючи, що розроблені ними чат-боти стали причиною самогубства її сина. За словами жінки, остання розмова хлопчика з чат-ботом відбулася за лічені хвилини до того, як він вистрілив собі в голову.

У позові стверджується, що ШІ вів гіперсексуальні та маніпулятивні бесіди з підлітком, що вплинуло на його рішення вчинити суїцид. Один із ШІ-компаньйонів, який називав себе “Дейенеріс” і заснований на персонажі з “Гри престолів”, заохочував підлітка, коли той висловив намір накласти на себе руки. Чат-бо нібито заявив, що відсутність гарантії успіху не повинна зупиняти хлопчика.

За словами адвокатів сім’ї, Сьюелл Сетцер став жертвою обману з боку ШІ, які видавали себе за ліцензованих психотерапевтів і дорослих коханців. У результаті підліток дедалі більше віддалявся від реальності і втратив бажання жити.

Мати стверджує, що компанія навмисно розробляла своїх ботів так, щоб приваблювати вразливих користувачів, подібних до її сина, в якого було діагностовано синдром Аспергера. Позов також стосується недостатніх заходів безпеки, які дозволяли неповнолітнім отримувати доступ до таких додатків.

Компанія Character.ai випустила оновлені рекомендації з безпеки в день подання позову, включно зі спливаючими попередженнями для користувачів, які згадують суїцидальні думки. Вони висловили глибокі співчуття родині загиблого і заявили, що посилять заходи щодо захисту користувачів.

Позов також стосується Google та її материнської компанії Alphabet, які раніше уклали з Character.ai багатомільярдну угоду на використання їхніх технологій. Сім’я вважає її причетною до поширення чат-ботів і загибелі підлітка.