Генеральний директор CertiK попереджає, що агенти зі штучним інтелектом можуть стати наступною великою катастрофою безпеки криптовалют

Швидке зростання кількості агентів штучного інтелекту створює нові можливості в технологіях та фінансах, але, за словами генерального директора CertiK, це також може закласти основу для однієї з найсерйозніших кіберзагроз, з якими коли-небудь стикалася криптовалютна індустрія.

Оскільки агенти штучного інтелекту стають все більш досконалими, компанії все частіше надають їм доступ до конфіденційних систем, таких як електронна пошта, бази даних, хмарні сховища, фінансові платформи та криптовалютні гаманці. Хоча ця автоматизація підвищує ефективність, вона також створює нові поверхні для атак, які кіберзлочинці вже вчаться використовувати.

Одна з найнебезпечніших нових загроз відома як промовисте впровадження (prompt injection). На відміну від традиційних методів злому, які спираються на шкідливе програмне забезпечення або експлойти коду, атаки промовиного впровадження маніпулюють тим, як системи штучного інтелекту інтерпретують інформацію та інструкції.

__КОРОТКИЙ_ТОКЕН_0__

Під час типової атаки шкідливі інструкції приховані всередині, здавалося б, нешкідливого контенту, такого як PDF-файли, електронні листи, веб-сайти або документи. Коли агент штучного інтелекту обробляє цей контент як частину свого завдання, він може несвідомо інтерпретувати приховані інструкції як дійсні команди та виконувати їх.

Це може призвести до серйозних наслідків. Зламаний агент штучного інтелекту може витікати конфіденційні дані, розкривати облікові дані, схвалювати несанкціоновані транзакції або взаємодіяти з криптовалютними гаманцями непередбачуваним чином. У деяких випадках це може призвести до прямих фінансових втрат.

Особливо небезпечними ці атаки робить те, що традиційні засоби кібербезпеки часто не виявляють їх. Антивірусне програмне забезпечення та сканери шкідливих програм розроблені для виявлення шкідливого коду, але атаки з використанням швидкого впровадження часто покладаються лише на маніпуляції з текстом. Це дозволяє їм обходити багато існуючих систем безпеки.

Дослідники CertiK повідомляють, що вони вже виявили сотні шкідливих плагінів, фальшивих інсталяторів та скомпрометованих залежностей, розроблених спеціально для атаки на системи на базі штучного інтелекту. Багато з цих інструментів здаються легітимними, але створені для маніпулювання поведінкою штучного інтелекту після інтеграції в робочі процеси.

Індустрія криптовалют особливо вразлива до цих ризиків. Агенти штучного інтелекту зараз використовуються в торгових системах, DeFi-платформах, інструментах управління портфелем та аналітиці блокчейну. Оскільки ці агенти отримують дозвіл на виконання фінансових дій, потенційний вплив будь-якої успішної атаки значно зростає.

Ще однією зростаючою проблемою є поширення короткочасних шахрайств, розроблених спеціально для атаки на автоматизовані системи, а не на користувачів-людей. Деякі зловмисники створюють тимчасові пастки, які існують лише кілька хвилин або годин, достатньо довго, щоб обдурити торгових ботів на базі штучного інтелекту або автоматизованих агентів, перш ніж зникнути.

Це знаменує собою зміну в стратегії кіберзлочинності. Замість того, щоб зосереджуватися лише на користувачах-людях за допомогою фішингу чи соціальної інженерії, зловмисники все частіше націлюються на машинні системи прийняття рішень, які працюють набагато швидше та без людського врахування.

Експерти з безпеки попереджають, що агенти зі штучним інтелектом можуть обробляти інформацію та виконувати дії майже миттєво. Хоча така швидкість покращує продуктивність, вона також збільшує ризик. Людина-користувач може розпізнати підозрілі інструкції перед схваленням транзакції, але агент зі штучним інтелектом може діяти негайно, якщо немає жодних запобіжних заходів.

Щоб протидіяти цим ризикам, CertiK закликає до впровадження моделі безпеки Zero Trust для систем штучного інтелекту. За такого підходу жоден інструмент, плагін чи інструкція не є довіреними за замовчуванням. Кожен запит має бути перевірений та постійно контролюватися, незалежно від його джерела.

__КОРОТКИЙ_ТОКЕН_1__

Модель нульової довіри вже стала поширеною в кібербезпеці підприємств, але експерти вважають, що вона буде важливою в середовищах, де системи штучного інтелекту безпосередньо взаємодіють з конфіденційними даними та фінансовими активами.

Прихильники штучного інтелекту стверджують, що ці ризики є частиною раннього технологічного розвитку та покращаться в міру розвитку галузі. Вони зазначають, що багато трансформаційних технологій спочатку створили нові виклики безпеці, перш ніж були розроблені належні засоби захисту.

Однак критики попереджають, що впровадження штучного інтелекту відбувається швидше, ніж системи безпеки можуть встигати за цим. Багато компаній розгортають автономні агенти, не до кінця розуміючи, як ними можна маніпулювати або зловживати.

Для криптоіндустрії, де цифрові активи переміщуються миттєво та безповоротно, ризики особливо високі. Навіть невелика вразливість у широко використовуваних системах штучного інтелекту може призвести до масштабних фінансових збитків.

Попередження CertiK підкреслює ширші зміни в кібербезпеці. Оскільки автоматизація стає потужнішою, загрози виходять за рамки традиційного шкідливого програмного забезпечення та переходять до маніпуляцій із самими розвідувальними системами. У деяких випадках ретельно розробленого фрагмента тексту може бути достатньо, щоб спровокувати ненавмисні фінансові дії.

Чи стануть агенти ШІ революційними інструментами, чи суттєвими проблемами безпеки, залежатиме від того, як швидко адаптується галузь. Наразі експерти наполегливо рекомендують бути обережними та наголошують на тому, що довіру завжди потрібно перевіряти, навіть коли йдеться про штучний інтелект.