Google виявив хакерів, які зловживають штучним інтелектом Gemini

Компанія Google виявила численні хакерські групи, що фінансуються державою, які намагаються використовувати її платформу Gemini AI у зловмисних цілях, зокрема для розробки шкідливого програмного забезпечення. Однак технологічний гігант повідомляє, що ці зусилля не призвели до значних кіберзагроз, підкреслюючи, що ШІ залишається для кіберзлочинців скоріше інструментом, а не тим, що змінює правила гри.

Згідно з висновками Google, хакери з Ірану, Північної Кореї, Китаю та Росії використовували Gemini для таких завдань, як переклад контенту, вдосконалення фішингових атак і написання комп'ютерного коду. Компанія відстежила цю діяльність понад 10 іранських хакерських груп, 20 китайських груп, підтримуваних урядом, і дев'ять північнокорейських суб'єктів загрози.

"Іранські суб'єкти APT (advanced persistent threat) були найактивнішими користувачами Gemini, використовуючи його для дослідження оборонних організацій, аналізу вразливостей і створення контенту для дезінформаційних кампаній", - зазначила компанія Google у своєму блозі в середу.

Незважаючи на ці спроби, Google стверджує, що Gemini в першу чергу надає цим суб'єктам підвищення продуктивності, а не прямі хакерські можливості. "Наразі вони в основному використовують штучний інтелект для досліджень, усунення несправностей у коді, а також для створення та локалізації контенту", - заявили в компанії.

Копирайт изображения: Jaque Silva | NurPhoto

Google також підкреслила обмеження, з якими стикаються хакери, коли намагаються використовувати Gemini для більш складних шкідливих завдань. Хоча штучний інтелект допомагав їм у розумінні складних тем і створенні базового коду, його гарантії безпеки запобігали зловживанню кібератаками. Спроби використати Gemini для просунутих фішингових технологій, кодування шкідливого програмного забезпечення або обходу заходів безпеки Google не увінчалися успіхом.

"Деякі зловмисники безуспішно намагалися отримати від Gemini вказівки щодо зловживання продуктами Google, наприклад, просунуті фішингові методи для Gmail, допомогу в кодуванні інфо-зловмисника для Chrome і методи обходу методів перевірки створення облікових записів Google", - повідомили в компанії. "Ці спроби були невдалими. Gemini не створив шкідливого програмного забезпечення або іншого контенту, який міг би бути використаний в успішній шкідливій кампанії".

Однак у Google визнали, що такі інструменти ШІ, як Gemini, можуть прискорити робочі процеси суб'єктів кіберзагроз, дозволяючи їм діяти більш ефективно і в більших масштабах. Наприклад, іранська пропагандистська операція використовувала Gemini для покращення перекладів, що дозволило дезінформаційним кампаніям охопити ширшу аудиторію. Тим часом хакери, пов'язані з Північною Кореєю, покладалися на чат-бота для складання супровідних листів і збору рекомендацій щодо пошуку роботи для LinkedIn - потенційно допомагаючи їм отримати віддалені ІТ-позиції в американських компаніях, що викликає дедалі більше занепокоєння у федеральних слідчих.

"Група також використовувала Gemini для отримання інформації про обмін працівниками за кордоном. Багато з цих тем були б загальними для будь-кого, хто шукає і подає заявки на роботу", - зазначили в Google.

Висновки Google перегукуються з аналогічними відкриттями OpenAI. Рік тому OpenAI виявив кілька спонсорованих державою груп, які намагалися зловживати ChatGPT. Однак розслідування показало, що ці хакери в основному використовували чат-бот для незначного підвищення продуктивності, а не для здійснення складних кібератак.

У відповідь на ці загрози Google посилила протоколи безпеки своїх ШІ. Компанія постійно тестує захист Gemini, щоб запобігти зловживанням, і співпрацює з правоохоронними органами, коли це необхідно. "Ми розслідуємо зловживання нашими продуктами, послугами, користувачами та платформами, включаючи зловмисну кібердіяльність з боку підтримуваних урядом суб'єктів загроз, і співпрацюємо з правоохоронними органами, коли це необхідно", - заявили в Google.

Крім того, Google активно працює над усуненням цих кіберзагроз, видаляючи підозрюваних зловмисників зі своїх платформ. Така проактивна позиція підкреслює прагнення компанії забезпечити безпеку своїх інструментів штучного інтелекту, визнаючи при цьому зростаючі ризики, які створюють підтримувані державою хакери.