Штучний інтелект може вкрасти ваш голос — і зупинити це складно

Технології штучного інтелекту, що дають змогу клонувати голоси, стрімко розвиваються, проте бар’єри для зловживань залишаються слабкими. Розслідування Consumer Reports виявило, що п’ять із шести популярних сервісів клонування голосу мають мінімальні механізми захисту, дозволяючи створити підроблений голос майже без обмежень.

Багато сервісів, такі як ElevenLabs, Speechify, PlayHT і Lovo, вимагають від користувача лише поставити галочку, що підтверджує згоду на клонування голосу. При цьому Resemble AI, хоч і вимагає голосовий запис у реальному часі, виявився вразливим — тестери змогли обійти захист, просто програвши запис із комп’ютера.

Єдиною платформою з відносно надійною перевіркою виявився Descript – для створення клону там потрібно записати унікальну фразу, що ускладнює підробку.

Небезпека технології стала очевидною після інциденту під час праймеріз Демократичної партії 2024 року. Тоді виборцям телефонував ШІ-клон голосу Джо Байдена із закликом не голосувати. Організатора цих дзвінків оштрафували на $6 млн, а Федеральна комісія зі зв’язку заборонила автообдзвони, які згенерував ШІ.

Попри ризики, суворі федеральні закони з контролю ШІ-клонування в США поки що відсутні. Спроба Джо Байдена запровадити заходи безпеки 2023 року через указ про ШІ була скасована Дональдом Трампом після його приходу до влади.

Технологія, звісно, має і законні застосування: допомога людям, які втратили голос, або створення аудіоперекладів. Однак експерти попереджають, що зростає і потенціал для зловживань. Сара Маєрс Вест з AI Now Institute наголошує, що клони голосу вже використовуються для шахрайства — від хибних дзвінків із проханнями про допомогу до підробки голосів знаменитостей.

Поки законодавство відстає, зловмисники дедалі активніше використовують ШІ. Попит на надійні методи захисту від фейкових голосів продовжує зростати, але індустрія поки що лише на початковому етапі створення таких рішень.