Roblox та Discord під ударом через недопрацювання у сфері безпеки дітей

Дві найбільші ігрові платформи в Інтернеті, Roblox і Discord, офіційно опинилися в центрі уваги через проблеми з безпекою дітей - і, схоже, справи можуть піти ще гірше.

Влада штатів Флорида і Нью-Джерсі розпочинає серйозне розслідування того, як ці платформи захищають (або не захищають) своїх юних користувачів. Roblox, який щодня відвідують 85 мільйонів гравців, і Discord з 200 мільйонами користувачів щомісяця, тепер стикаються з юридичним тиском, щоб пояснити, як вони насправді забезпечують безпеку дітей, а не лише обіцяють це зробити.

"Генеральний прокурор штату Флорида Джеймс Утмайєр викликав компанію Roblox Corp. до суду з вимогою надати інформацію про те, як вона продає свою продукцію дітям, а також про її політику боротьби з хижаками".

Основна увага зосереджена на тому, чи робить Roblox достатньо для запобігання взаємодії між дітьми та потенційними хижаками. За словами офісу Утмайєра, вони хочуть отримати відповіді: політику модерації, як працює (або не працює) перевірка віку, і наскільки легко діти можуть обійти батьківський контроль.

Roblox відповів, сказавши:

"Ми маємо намір співпрацювати з Генеральною прокуратурою і з нетерпінням чекаємо можливості поділитися всією роботою, яку Roblox робить, щоб допомогти захистити користувачів".

Гарна піар-заява, але суд громадської думки вже гуде - і не в хорошому сенсі.

Імідж: Discord

Проблеми Discord

Якщо Roblox набирає обертів, то Discord може стояти ще ближче до вогню.

Генеральний прокурор Нью-Джерсі Метью Платкін щойно подав на Discord до суду, звинувативши компанію в тому, що вона вводить сім'ї в оману щодо того, наскільки безпечним є її додаток. У позові стверджується, що Discord обіцяв захисні функції, такі як фільтри повідомлень, але не виконав їх. Діти все одно отримували жахливі матеріали - ми говоримо про матеріали про сексуальне насильство над дітьми, насильницький контент і навіть про медіа, пов'язані з тероризмом.

"Discord ввів в оману користувачів і батьків, переоцінивши свої функції безпеки, і не зміг сканувати повідомлення навіть між друзями", - йдеться в позові.

Нічого собі.

Що ще більш прикро, в позові йдеться про те, що Discord не забезпечує належного дотримання власного мінімального вікового цензу (нібито 13+), через що молодшим дітям дуже легко прослизнути крізь щілини.

Офіційна відповідь Discord? Досить захисна:

"Враховуючи нашу співпрацю з Генеральною прокуратурою, ми здивовані повідомленням про те, що Нью-Джерсі подав сьогодні позов проти Discord".

Переклад: "Зачекайте, ви подаєте на нас до суду? Ми думали, що у нас все добре?"

Чому все вибухнуло саме зараз?

Обидві платформи намагаються виправити ситуацію, принаймні на папері.

Roblox стверджує, що лише у 2024 році вони випустили 40 оновлень системи безпеки, включаючи головне з них у листопаді, яке блокує доступ дітей до 13 років до соціальних просторів, таких як віртуальні клуби. Discord, зі свого боку, минулого року змусив свого генерального директора Джейсона Цитрона свідчити в Конгресі про безпеку дітей - якраз тоді, коли компанія готувалася до можливого IPO.

Але багатьом людям (і багатьом батькам) здається, що цього замало і запізно.

Минулого літа Bloomberg's Businessweek повідомив, що Roblox має серйозні проблеми з тим, щоб утримати хижаків подалі від своєї платформи. З 2018 року поліція США заарештувала понад два десятки осіб, звинувачених у догляді або насильстві над жертвами, з якими вони познайомилися через Roblox. І інсайдери кажуть, що проблема є величезною, частково через величезний масштаб цих платформ.

"Співробітники Roblox описали широту виклику, пов'язаного з охороною громадського порядку величезної бази користувачів компанії".

По суті, навіть з усіма штучним інтелектом, модами та системами звітності, погані гравці все одно прослизають.

"Roblox, Discord завтра"

І Roblox, і Discord очікують серйозні юридичні проблеми, і довіра громадськості, безумовно, на кону.

Якщо Roblox не зможе довести, що його системи герметичні, він ризикує отримати більше регулювання (і розлючені батьки заберуть своїх дітей з гри). Для Discord судовий позов може не лише затримати IPO, але й підірвати репутацію компанії, яка намагається вийти за межі ігрових кіл і стати ширшою соціальною платформою.

Існує також велике питання підзвітності. Наскільки відповідальними мають бути платформи, якщо вони більше схожі на ігрові майданчики, ніж на традиційні соціальні мережі? І наскільки реально повністю контролювати простори з сотнями мільйонів користувачів?

Ці випадки можуть стати важливими прецедентами того, як додатки керуватимуть безпекою дітей у майбутньому, не лише для Roblox та Discord, але й для всього інтернету.

Йдеться не лише про дві компанії, які потрапили в халепу. Йдеться про те, хто несе відповідальність, коли віртуальні ігрові майданчики стають небезпечними.