ChatGPT «вкрав» у користувача $2500 під час розробки мемкоїн-бота

Експерти SlowMist повідомили про випадок крадіжки коштів користувача з ніком r_ocky.eth, який втратив $2500, дотримуючись рекомендації ChatGPT. Інцидент стався під час розробки бота для платформи Pump.fun на блокчейні Solana.

За словами дослідника під ніком Cos, користувач, працюючи з кодом, наданим ChatGPT, зіткнувся з бекдором. Цей прихований код перенаправив приватний ключ на фішинговий сайт.

“Я припустився помилки, довірившись ШІ. Код виглядав коректним, але містив загрозу. Цей випадок — нагадування про ризики використання LLM”, — зазначив Cos.

Потерпілий продемонстрував фрагмент коду, де ChatGPT рекомендував надсилання закритого ключа в API. Він визнав, що використовував основний гаманець Solana, що посилило наслідки атаки.

Щойно користувач активував API, шахраї оперативно переказали кошти на інший гаманець. Наразі на рахунку зловмисників значаться 5,72 SOL і 141 950 USDC. При цьому досі не зрозуміло, з якої причини ШІ вставив шкідливий код у структуру бота.

Цей випадок посилює увагу до вразливостей ШІ та важливості подвійної перевірки під час роботи з кодом.