OpenAI закрила акаунти, пов'язані з імовірним китайським інструментом стеження

OpenAI заблокувала кілька акаунтів, які нібито використовували ChatGPT для створення інструменту моніторингу соціальних мереж, призначеного для повідомлення про антикитайські протести в США та інших західних країнах. Компанія стверджує, що мережа, ймовірно, була пов'язана з Китаєм.

OpenAI посилює боротьбу зі зловживанням ШІ, закривши кілька акаунтів, які, як повідомляється, використовували ChatGPT для створення інструменту спостереження за соціальними мережами. Згідно зі звітом OpenAI, ці акаунти, ймовірно, були пов'язані з операцією за підтримки Китаю, метою якої був збір даних в режимі реального часу про антикитайські протести в США, Великобританії та інших західних країнах.

Так званий "Qianyue Overseas Public Opinion AI Assistant" описувався в маркетингових матеріалах як програмне забезпечення, призначене для відстеження та звітування про онлайн-дискусії щодо протестів з приводу прав людини безпосередньо китайській владі, розвідувальним службам та посольствам. OpenAI не змогла самостійно перевірити існування інструменту, але мала доступ до рекламних матеріалів, в яких детально описувалися його можливості - переважно сканування таких платформ, як X, Facebook та Instagram, для пошуку відповідних розмов.

Бен Німмо, провідний дослідник OpenAI, назвав цей випадок тривожним прикладом того, як "авторитарний режим намагається використовувати американський ШІ в антидемократичних цілях". Ці висновки з'явилися на тлі зростання напруженості у зв'язку з використанням Китаєм західних технологій, і OpenAI активно попереджає американських політиків про ризики для національної безпеки, пов'язані з китайським штучним інтелектом.

Заборонені акаунти також посилалися на використання інших моделей ШІ, в тому числі на Llama з відкритим вихідним кодом компанії Meta. Компанія Meta визнала таку можливість, але зазначила, що зловмисники мають доступ до великої кількості інструментів штучного інтелекту, в тому числі розроблених у Китаї.

Це не перший випадок, коли OpenAI вживає заходів проти сумнівної діяльності. Компанія також заблокувала акаунти, пов'язані з операціями іранського впливу, шахрайством з працевлаштуванням, пов'язаним з Північною Кореєю, та іншою мережею, пов'язаною з Китаєм, яка генерувала іспаномовний контент, що критикував уряд США.

З появою китайських стартапів у галузі штучного інтелекту, таких як DeepSeek, OpenAI розглядає можливість створення власних моделей, щоб скласти їм конкуренцію. Тим часом американські політики намагаються знайти баланс між інноваціями в галузі ШІ та інтересами національної безпеки.