Корпорація Майкрософт вигнала хакерів, які ховаються за використання штучного інтелекту

Корпорація Microsoft заявила, що виявила американських і закордонних хакерів-злочинців, які обійшли огорожі інструментів генеративного штучного інтелекту, включаючи сервіси компанії Azure OpenAI, для створення шкідливого контенту, включно з інтимними зображеннями знаменитостей та іншим контентом сексуального характеру.

За даними компанії, хакери зібрали логіни клієнтів із загальнодоступних джерел і використовували їх для доступу до генеративних служб ШІ, включаючи Azure OpenAI, хмарний продукт Microsoft, який дозволяє клієнтам використовувати моделі OpenAI. Потім хакери змінили можливості продуктів штучного інтелекту та продали доступ іншим шкідливим групам, надаючи їм інструкції щодо створення шкідливого контенту.

Хакери, ідентифіковані Microsoft, знаходяться в Ірані, Великій Британії, Гонконзі та В'єтнамі. Вони нібито є частиною глобальної мережі кіберзлочинців, яку Microsoft називає Storm-2139. Двоє інших членів знаходяться у Флориді та Іллінойсі, але Microsoft заявила, що не називає їх імена, щоб уникнути зриву кримінальних розслідувань. Виробник програмного забезпечення заявив, що готує звернення до правоохоронних органів США та інших країн.

Ця дія відбувається в той момент, коли зростання популярності генеративних інструментів штучного інтелекту викликає занепокоєння щодо їх неправильного використання для створення підроблених незаконних зображень публічних діячів і звичайних людей, а також для створення матеріалів про сексуальне насильство над дітьми. Такі компанії, як Microsoft і OpenAI, забороняють таку поведінку та вживають технологічних заходів для її блокування, але зловмисники все одно можуть намагатися отримати неавторизований доступ.

«Ми дуже серйозно ставимося до неправильного використання штучного інтелекту, визнаючи серйозні та тривалі наслідки образливих зображень для жертв»,

Про це заявив у четвер Стівен Масада, помічник генерального юрисконсульта відділу цифрових злочинів Microsoft.

«Microsoft як і раніше прагне захищати користувачів, впроваджуючи надійні заходи безпеки штучного інтелекту на наших платформах і захищаючи наші служби від незаконного та шкідливого вмісту».

Оголошення Microsoft відбулося після грудневого позову, який компанія подала в Східному окрузі Вірджинії проти 10 «Джонів» у спробі зібрати більше інформації про хакерську групу та перешкодити її діяльності, сказав Масада в блозі.

Суд видав рішення, які дозволяють Microsoft конфіскувати ключовий веб-сайт, який використовували хакери. Це, а також розкриття судових документів минулого місяця викликали паніку серед хакерської групи та змусили деяких членів вказувати пальцями один на одного, за чим Microsoft змогла спостерігати, щоб ідентифікувати деяких учасників, заявила компанія.

Microsoft відмовилася назвати імена знаменитостей, які постраждали.