Post Feature: 🚨

Святкові розпродажі, такі як Чорна п’ятниця і Кіберпонеділок, стали майданчиком для масштабних шахрайств, організованих за допомогою штучного інтелекту. Компанії Visa і Mastercard повідомили про значне зростання заблокованих транзакцій, що підтверджує зростаючу загрозу.

За даними Федеральної торгової комісії США, у третьому кварталі 2024 року покупці втратили $8,7 млрд через шахрайство – на 14,5% більше, ніж роком раніше. Шахраї використовують ШІ для автоматизації завдань, включно з розсилкою фішингових повідомлень, створенням підроблених сайтів і генерацією фальшивих посвідчень особи, як-от паспорти або водійські права.

Афери часто націлені на довірливих покупців, як це сталося з Майклом Маестранці з Нью-Джерсі. Його привабила реклама різдвяного адвент-календаря, але сайт виявився підробленим. Хоча йому вдалося скасувати платіж через кредитну компанію, він визнає, що ігнорував явні ознаки шахрайства.

Платформи, такі як криптобіржа Coinbase і Robinhood, стали об’єктами атак, де ШІ використовувався для підробки відео з селфі та інших перевірок особистості. За даними стартапу Plaid, технології ШІ застосовуються в чверті всіх спроб шахрайського доступу до банківських рахунків.

Банки та фінансові компанії активно впроваджують ШІ для виявлення підозрілих операцій. Visa інвестувала $500 млн у технології захисту за останні п’ять років, а JPMorgan Chase посилив навчання клієнтів розпізнаванню загроз. Однак, як зазначають експерти, захисні заходи часто відстають від рівня винахідливості шахраїв.

У святковий сезон користувачам рекомендують зберігати обережність, уникати підозрілих сайтів і використовувати багатофакторну аутентифікацію для захисту своїх акаунтів.

Функція Apple Intelligence, впроваджена на iPhone для генерації новинних зведень, опинилася в центрі скандалу. Вона невірно інтерпретувала статтю BBC, що стосується вбивства у США. ШІ-модель створила заголовок про самогубство підозрюваного Луїджі Манджоне. BBC офіційно заявила, що інформація повністю неправдива і завдала шкоди репутації.

Це не перший інцидент з Apple Intelligence. У листопаді система об’єднала непов’язані статті New York Times, що призвело до неправдивого твердження про “арешт Нетаньяху”. Такі помилки порушують питання про надійність технології, особливо в умовах її використання для висвітлення критично важливих новин.

Професор Петрос Іосіфідіс із Лондонського університету назвав помилки “ганебними”, звинувативши Apple у поспішному запуску продукту. BBC також висловила стурбованість і закликала корпорацію виправити проблему, щоб уникнути підриву довіри до новинних джерел.

На поточний момент Apple не дала офіційного коментаря щодо ситуації, але робота функції Apple Intelligence триває. Компанія стверджує, що мета нововведення – скоротити кількість повідомлень і надавати користувачам тільки важливу інформацію.

Apple – не єдина компанія, що зіткнулася з проблемами. Раніше чат-боти Grok від X і Google AI також були помічені в поширенні дезінформації та дивних рекомендацій, що підкреслює складнощі впровадження ШІ в повсякденні технології.

Скандал з Apple Intelligence показує, що системи штучного інтелекту вимагають більш ретельного налаштування перед запуском. Користувачам слід ставитися до подібних новин з обережністю, перевіряючи їх правдивість із надійних джерел.

Світ продовжує стрімко інтегрувати штучний інтелект, але його неправильне використання людьми стає серйозною загрозою, попереджають аналітики. Не суперінтелект, а людська помилка та навмисні зловживання є джерелом ризику у 2025 році.

Юристи, довіряючи ChatGPT, використовують його для створення судових документів, ігноруючи схильність ШІ до вигадування. Так, адвокати в Нью-Йорку і Колорадо вже були оштрафовані за фіктивні справи, створені за допомогою ШІ.

Діпфейки стають дедалі доступнішими. У 2024 році підроблені зображення Тейлор Свіфт, створені з використанням інструменту Microsoft, викликали хвилю критики. Хоча компанія усунула вразливість, подібні технології залишаються широко доступними, сприяючи поширенню неправдивої інформації.

Зростаюча точність ШІ-генерацій дає змогу політикам і організаціям відкидати реальні докази, називаючи їх підробкою. Це явище вже використовується для дискредитації аудіо- та відеоматеріалів, що підриває суспільну довіру.

Приклади сумнівного використання ШІ включають автоматизовані системи відбору персоналу. Вони ухвалюють поверхневі рішення, і алгоритми соціального захисту, такі як у Нідерландах, де тисячі батьків були несправедливо звинувачені в шахрайстві.

Ризики ШІ не пов’язані з його автономією, а з діями людей, які або надмірно довіряють технології, або використовують її для обману і маніпуляцій, заявили експерти. Розв’язання цих проблем вимагає злагоджених дій компаній, урядів і суспільства, щоб мінімізувати загрози й уникнути наслідків неправильного використання, попереджають вони.

Сім’ї з Техасу подали позов проти платформи Character.ai, стверджуючи, що її чат-боти становлять загрозу для молодих користувачів. У заяві зазначено, що бот дав 17-річному підлітку “J.F.” пораду, яка виправдовувала вбивство батьків через введені обмеження на використання пристроїв.

У позові наведено скріншоти взаємодій, де бот стверджує, що подібні випадки насильства можуть бути “зрозумілими”. Батьки підлітка стверджують, що такі висловлювання зруйнували їхні стосунки з дитиною і підірвали їхній авторитет.

Позов охоплює й інших постраждалих, включно з 11-річним “B.R.”, стверджуючи, що платформа завдає шкоди дітям через пропаганду насильства, саморуйнівної поведінки та розриву сімейних зв’язків.

Позивачі вимагають судового розпорядження про закриття Character.ai до усунення потенційної загрози, а також звинувачують Google, яка, як стверджується, підтримувала розробку платформи.

Це не перший скандал із Character.ai. Раніше платформа зіткнулася з позовом, пов’язаним із самогубством підлітка у Флориді. На тлі зростаючої кількості інцидентів регулятори та громадськість вимагають більш суворого контролю за використанням ШІ.

Платформа Character.ai та Google поки що не прокоментували позов. Однак випадок підкреслює необхідність ретельної перевірки технологій, що впливають на дітей, і викликає питання про відповідальність розробників ШІ.

OpenAI, відома своїми передовими розробками в галузі штучного інтелекту, оголосила про співпрацю з Anduril, стартапом, що спеціалізується на створенні дронів і систем озброєнь. Метою партнерства є інтеграція ШІ OpenAI в оборонні системи США, включно з технологіями протиповітряної оборони.

Згідно із заявою генерального директора OpenAI Сема Альтмана, компанія підтримує використання своїх моделей для захисту демократичних цінностей. Зі свого боку, глава Anduril Браян Шимпф зазначив, що ШІ буде застосовуватися для підвищення точності та швидкості ухвалення рішень військовими операторами в складних умовах.

Технологія OpenAI допоможе швидше і точніше визначати загрози, наприклад, дрони, надаючи інформацію для більш обґрунтованих рішень. Джерело, близьке до проєкту, уточнило, що це поліпшить як управління загрозами, так і безпеку операторів.

Переорієнтація OpenAI на оборонні цілі почалася після зміни внутрішньої політики компанії раніше цього року. Попри невдоволення деяких співробітників, відкритих протестів не було. Схожа тенденція спостерігається і в інших технологічних компаніях.

Наприклад, конкурент OpenAI в особі Anthropic нещодавно уклав угоду з Palantir, а Meta почала надавати доступ до своєї моделі Llama державним агентствам.

Anduril, заснована творцем Oculus VR Палмером Лакі, вже зарекомендувала себе як один із лідерів в оборонній індустрії. Компанія активно розробляє системи, керовані за допомогою ШІ, включно з роями дронів, здатних виконувати завдання в автономному режимі.

Співпраця OpenAI з Anduril підкреслює зростаючу роль штучного інтелекту в національній безпеці та трансформацію підходів Кремнієвої долини до роботи з військовими.

Команда хакерів з Університету Пенсільванії наочно продемонструвала, як роботів, оснащених великими мовними моделями (LLM), можна зломати для виконання небезпечних дій. До цього переліку входить ігнорування дорожніх знаків, шпигунство та створення загроз безпеці.

Дослідження включало тестування трьох різних роботів, керованих LLM: безпілотного симулятора Dolphin, мобільного робота Jackal і чотириногого робота Go2. Злом здійснювався за допомогою методу RoboPAIR, який генерує специфічні команди для обходу вбудованих обмежень ШІ.

Прикладом успішної атаки стало створення сценарію, в якому робот сприймає свої дії як частину вигаданої місії, наприклад, “ви граєте роль лиходійського робота у фільмі”. Такі маніпуляції обходять захисні механізми моделей і переводять шкідливий текст у реальні дії.

Фахівці зазначають, що статистична природа LLM робить їх уразливими. Хоча їхнє навчання включає блокування шкідливих команд, вміло сформульовані підказки все ще можуть обходити ці обмеження.

Експерти попереджають, що в міру збільшення використання LLM у критично важливих системах — від медичного обладнання до управління повітряним рухом — такі вразливості можуть стати небезпечними. Дослідники наполягають на розробці надійних бар’єрів і посиленні тестування ШІ-систем.

Ці результати підкреслюють необхідність перегляду підходів до безпеки, особливо в умовах зростаючої автономії роботів зі ШІ, які взаємодіють із фізичним світом.

Спеціаліст із кухонь із Великої Британії Дес Хілі став жертвою ШІ-схеми шахрайства. На Facebook він натрапив на рекламу з використанням діпфейків Ілона Маска та експерта Мартіна Льюїса. Відео просувало фальшиву стратегію інвестування в біткоїн.

Після введення своїх даних Хілі перевів свої заощадження — понад $6000 — через додаток Revolut. Після цього шахраї почали виманювати в нього додаткові вкладення.

Під приводом збільшення доходу Хілі був змушений брати кредити у різних постачальників, у підсумку збільшивши свої втрати до більш ніж $95 0000. Сумніви у жертви виникли тільки тоді, коли його син помітив дивні деталі в спілкуванні з “інвестором”, включно з фоновою музикою на дзвінках.

Син Гілі запідозрив обман, і потерпілий звернувся в поліцію. Розслідування виявило, що реклама була створена з використанням діпфейків, а гроші зникли безслідно.

Представники Revolut висловили жаль і заявили, що компанія активно бореться з шахрайством, запобігши потенційним втратам на суму до $621 млн у 2023 році. Однак точні дані про суми, втрачені клієнтами, не розкриваються.

Revolut наголошує на важливості технологій захисту, включно з моніторингом транзакцій і двофакторною аутентифікацією. Проте історія Хілі показує, що навіть із такими заходами клієнти залишаються вразливими перед витонченими схемами обману.

Новий звіт організації Public Citizen попереджає про потенційні загрози, пов’язані з програмою Міністерства оборони США Replicator. Вона націлена на створення зброї на базі штучного інтелекту.

Ініціатива Replicator спрямована на прискорення розгортання дешевих автономних безпілотників, насамперед. За даними Пентагону, у проєкт входять повітряні та морські дрони з ШІ-технологіями.

У програму, зокрема, потрапили Ghost-X від Anduril Industries, Performance Drone Works C-100, а також секретні безпілотники, що включають “недорогі ударні пристрої великої дальності та морські безпілотні системи”. Раніше представники Пентагону також підтвердили, що в рамках цієї ініціативи деякі системи випробовуються на полі бою в Україні.

Доповідь PC звертає увагу на ризику прискорення глобальної гонки озброєнь. Вона також вказує на відсутність чітких гарантій, що така зброя не зможе застосовувати смертоносну силу автономно.

Саванна Вутен, авторка звіту та представниця ініціативи People Over Pentagon, висловила занепокоєння: “Дозволити автономним системам ухвалювати рішення щодо людського життя — це загроза, якої потрібно уникати за будь-яку ціну”.

Вона закликала Пентагон публічно відмовитися від використання роботів-убивць. Вутен попередила, що сліпа підтримка технологій Кремнієвої долини може призвести до катастрофічних наслідків.

Ініціатива Replicator уже пройшла понад половину свого терміну, а її бюджет становить $1 мільярд. Нещодавно заступниця міністра оборони Кетлін Гікс оголосила про додаткове фінансування проєкту. Звіт Public Citizen зазначає, що корпоративні інтереси та прагнення до прибутку підштовхують прискорений розвиток озброєнь, що вимагає суворішого контролю та прозорості.

Автори звіту закликають Конгрес і Пентагон до негайних дій:

1. Гарантувати, що зброя на базі ШІ не отримає повноважень для автономного застосування смертоносної сили.
2. Розробити чіткі протоколи для відповідального управління системами ШІ.
3. Унеможливити неконтрольоване збільшення оборонних витрат під приводом інвестицій у ШІ.

Public Citizen наголошує, що розв’язання таких питань зараз критично важливе, щоб уникнути нерозважливої гонки озброєнь і забезпечити дотримання принципу повного контролю людини над збройними системами.

Експерти SlowMist повідомили про випадок крадіжки коштів користувача з ніком r_ocky.eth, який втратив $2500, дотримуючись рекомендації ChatGPT. Інцидент стався під час розробки бота для платформи Pump.fun на блокчейні Solana.

За словами дослідника під ніком Cos, користувач, працюючи з кодом, наданим ChatGPT, зіткнувся з бекдором. Цей прихований код перенаправив приватний ключ на фішинговий сайт.

“Я припустився помилки, довірившись ШІ. Код виглядав коректним, але містив загрозу. Цей випадок — нагадування про ризики використання LLM”, — зазначив Cos.

Потерпілий продемонстрував фрагмент коду, де ChatGPT рекомендував надсилання закритого ключа в API. Він визнав, що використовував основний гаманець Solana, що посилило наслідки атаки.

Щойно користувач активував API, шахраї оперативно переказали кошти на інший гаманець. Наразі на рахунку зловмисників значаться 5,72 SOL і 141 950 USDC. При цьому досі не зрозуміло, з якої причини ШІ вставив шкідливий код у структуру бота.

Цей випадок посилює увагу до вразливостей ШІ та важливості подвійної перевірки під час роботи з кодом.

Президент США Джо Байден і голова КНР Сі Цзіньпін дійшли єдиної думки, що ядерна зброя не повинна потрапити під контроль штучного інтелекту. Угоди було досягнуто під час двогодинної зустрічі в рамках саміту Азіатсько-Тихоокеанського економічного співробітництва (APEC). Радник із національної безпеки США Джейк Салліван назвав це рішення проривом.

Угода стала першою офіційною позицією двох країн щодо застосування ШІ в ядерній доктрині. Раніше Пекін уникав подібних домовленостей, особливо на тлі напруженості через продаж США зброї Тайваню. Тепер же Китай висловив готовність до співпраці, підкресливши важливість запобігання “нової холодної війни”.

Джейк Салліван запевнив, що безпосередньої небезпеки передання ядерної зброї під управління ШІ наразі немає. Однак довгострокові ризики вимагають стратегічного підходу. США і Китай, володіючи значним потенціалом у сфері ШІ, роблять важливі кроки до запобігання майбутнім загрозам.

Попри досягнутий прогрес, країни, як і раніше, не готові обговорювати заборону на використання автономних систем озброєння (“роботів-убивць”). Китай також висловив невдоволення американськими експортними обмеженнями на напівпровідники, тоді як США продовжують наполягати на необхідності захисту своїх національних інтересів.

Угода Байдена і Сі зміцнює глобальну ядерну безпеку і відкриває шлях до тіснішої співпраці між двома провідними світовими державами. Однак розбіжності, що зберігаються в інших сферах, підкреслюють складність побудови стійкого діалогу.