Усередині драми з безпекою Roblox після напруженої співбесіди з генеральним директором

Останнє інтерв'ю генерального директора ROBLOX вивело на поверхню давно тліючі сумніви щодо культури безпеки платформи. Roblox перебуває під пильною увагою вже багато років, але цифри посилили цю увагу. Зараз компанія нараховує близько 150 мільйонів щоденних активних користувачів, багато з яких - діти, і зафіксувала попередню внутрішню цифру в понад 13 000 повідомлень про випадки експлуатації дітей протягом одного року.

В ефірі технологічного подкасту The New York Times Hard Fork співзасновника і виконавчого директора Roblox Девіда Башукі запитали безпосередньо про хижаків, які полюють на дітей на сервісі. Його рішення описати цю проблему як "можливість" пролунало з надзвичайною силою, адже воно з'явилося не ізольовано, а на тлі судових позовів, провалів модерації та політичних боїв, які вже виснажили довіру батьків до межі.

Три штати США - Луїзіана, Кентуккі і Техас - подали позови, стверджуючи, що Roblox не робить достатньо для захисту неповнолітніх. Ще понад 20 справ у федеральному суді стверджують, що платформа уможливлювала сексуальну експлуатацію. У той же час, Roblox впроваджує оцінку віку на основі штучного інтелекту та розширює обмеження на спілкування в чаті, а потім рекламує ці інструменти як доказ того, що вона випереджає індустрію в цілому.

Ведучі Hard Fork Кейсі Ньютон і Кевін Руз сформулювали свої запитання в цьому контексті. Коли Ньютон запитав, що він думає про "проблему хижаків у Roblox", Башукі відповів:

"Ми думаємо про це не тільки як про проблему, але й як про можливість. Як ми можемо дозволити молодим людям будувати, спілкуватися і проводити час разом? Як ми можемо одночасно будувати майбутнє комунікації?" - Девід Башукі.

З решти відповіді було зрозуміло, що він мав на увазі можливість впроваджувати інновації в модерації та комунікаційному дизайні. Однак таке формулювання перетворило одну з найтемніших реальностей будь-якої дитячої платформи на виклик для розвитку. Для критиків це посилило підозру, що керівництво Roblox розглядає безпеку як ще одну інженерну проблему, яку потрібно оптимізувати, а не як жорстку межу, яка може обмежити те, що компанія повинна робити.

Під час інтерв'ю з генеральним директором ROBLOX Башукі постійно повертався до масштабу як до пояснення і як до захисту. Він зазначив, що користувачі Roblox проводять близько 11 мільярдів годин на місяць, і вказав на Steal a Brainrot, популярну гру, яка влітку досягла 25 мільйонів одночасних гравців, як на доказ того, що інфраструктура платформи може підтримувати. На запитання, чи легко хижакам обходити фільтри, він відмовився прямо відповісти, а натомість сказав: "Це одна з головних проблем, з якою стикаються гравці, які використовують платформу:

"Це одна з головних речей, яку ми робимо, - намагаємося утримати людей на нашій платформі... ми завжди намагаємося випереджати їх". - Девід Башукі.

Коли Ньютон продовжив, прямо запитавши, чи вважає він, що у Roblox є проблема з хижаками, Басукі не визнав цього припущення.

"Я думаю, що ми робимо неймовірну роботу з інновацій, враховуючи кількість людей на нашій платформі та час роботи, і дійсно заглядаємо в майбутнє, щоб зрозуміти, як це буде працювати". - Девід Башукі.

Обмін викристалізував напругу. З одного боку, компанія, яка витратила майже два десятиліття на створення інструментів для користувацьких ігор і спільнот, тепер значною мірою покладається на фільтрацію ШІ та оцінку віку для управління ризиками. З іншого боку, зростаючий табір батьків, регуляторів, творців і правозахисних груп, які стверджують, що основне питання залишається без відповіді: чи достатньо цього, і хто має право вирішувати?

Це питання загострилося через випадки, що виходять за рамки подкасту. Нещодавно Roblox заборонив YouTube Шлепа, творця, який створив велику аудиторію, влаштовуючи "полювання на хижаків" у просторах Roblox. Його відео, які, як він стверджує, призвели до численних арештів, були видалені, а його акаунт закритий відповідно до правил Roblox проти самосуду. Прихильники об'єдналися під хештегом #freeschlep і стверджують, що його робота висвітлювала збої у власних системах компанії. Для них почути, як виконавчий директор називає кризу хижаків "можливістю" через кілька днів після того, як він відсторонив одного з найпомітніших, хоча й суперечливих, наглядачів, звучало як неправильне розуміння моменту.

Посилюється і правовий тиск. Law By Mike, популярний ютубер і практикуючий юрист, публічно заявив про плани подати позов проти Roblox через передбачувані прогалини в захисті дітей. Його участь має значення, оскільки він перебуває на межі двох світів: він розуміє механіку управління платформою і спілкується з тією ж аудиторією батьків і підлітків, які ставляться до Roblox як до соціального надбання. У поєднанні з судовими позовами на рівні штату та федеральному рівні, його поштовх розширює фронт, на якому Roblox повинен захищати свої рекорди.

В інтерв'ю для Hard Fork Башукі спробував змістити акценти з кризового менеджменту на довгострокову архітектуру. Він описав нову систему оцінки віку обличчя - відео-селфі, яке використовується для оцінки віку користувача перед тим, як дозволити йому спілкуватися в чаті - як ще один сигнал у стеку, який також включає поведінкові дані та вік, вказаний самим користувачем.

"Ми вже робимо купу речей: У нас є дуже, дуже хороші текстові фільтри; ми не обмінюємося зображеннями; ми робимо купу моніторингу. Але додавання ще одного сигналу до цього може дійсно допомогти нам приймати круті рішення". - Девід Башукі.

Він стверджує, що історично платформа обміняла певний ріст на безпеку шляхом жорсткої фільтрації тексту, посилаючись на старий мем про чат Roblox, який перетворювався на "хештег, хештег, хештег, хештег", коли заборонені слова блокувалися. За його словами, завдяки ШІ фільтри можуть стати більш точними і стійкими до тактик противника, наприклад, коли користувачі намагаються зашифрувати контактну інформацію за допомогою кодових фраз.

Подкаст, створений як частина портфоліо подкастів The New York Times, недовго залишався в цій технічній площині. Руз згадав звіт Hindenburg Research за 2024 рік, у якому Roblox звинувачували в "компрометації безпеки дітей з метою звітування перед інвесторами про зростання" і вказували на скорочення витрат на довіру та безпеку. Башукі звільнив фірму зі сміхом. "Весело. Давайте продовжимо в тому ж дусі", - сказав він, зазначивши, що "Гінденбург" з тих пір вийшов з бізнесу, і стверджуючи, що перехід до систем штучного інтелекту еквівалентний переходу від ручної збірки автомобілів до конвеєра. На його думку, справа не в тому, щоб зрізати кути, а в тому, щоб застосовувати кращі інструменти.

Цей акцент на штучному інтелекті ставить Roblox у знайому нам категорію. Соціальні мережі провели більшу частину 2010-х років, обіцяючи, що автоматизовані системи будуть очищати зловживання і дезінформацію в масштабах, тільки щоб виявити жорсткі межі того, що машинне навчання може достовірно оцінити. Руз і Ньютон нагадали Басукі про цю історію. Він відповів, що внутрішні показники Roblox показують, що фільтрація і виявлення покращуються з розгортанням нових моделей, і що "запаморочливі" масштаби платформи роблять таку автоматизацію не просто ефективною, але й необхідною.

Навіть у межах ігор позиція Roblox щодо поміркованості перебуває під загрозою. Такі правозахисні групи, як Women In Games, Out Making Games та BAME in Games нещодавно опублікували відкритого листа, в якому розкритикували проект правил для творців компанії щодо "делікатних питань". "Нещодавно запропоновані Roblox правила для творців щодо "делікатних питань" є кроком назад як для творчого самовираження, так і для соціальної справедливості", - стверджується в листі, попереджаючи, що трактування таких тем, як гендерна рівність, репродуктивні права та расова справедливість, як необов'язкових або ризикованих "делікатних" зон ризикує поховати історії, які мають значення для молодих гравців. - Жінки в іграх, створення ігор та BAME в іграх.

Ця критика не зосереджена на хижаках чи вікових перевірках, але вона говорить про ту саму глибинну проблему: хто встановлює межі того, що молоді користувачі можуть бачити й обговорювати, і чий комфорт забезпечують ці рішення.

Розмова про хардфорк врешті-решт перейшла до Polymarket, платформи прогнозування на основі криптовалют, яку Башукі похвалив як потужний інформаційний сигнал. Коли Руз напівжартома запитав, чи буде він коли-небудь розміщувати ринок прогнозів всередині самого Roblox, Бацукі відповів ствердно, але визнав юридичні складнощі. Коли його запитали, чи не буде "жахливою ідеєю" перетворити ринок прогнозів на дитячу гру, він відповів: "Я думаю, що я не думаю, що це буде жахливою ідеєю:

"Ну, я насправді думаю, що це блискуча ідея, якщо це можна зробити в освітній формі, яка є законною... просто гра під назвою "Одягнися, щоб справити враження на прогнозиста", де не йдеться про спроби отримати дитячі гроші або щось подібне. Я був би великим шанувальником цього". - Девід Башукі.

Для компанії, яка вже перебуває під перевіркою щодо ставлення до неповнолітніх, ідею створення гейміфікованого механізму прогнозування в Roblox, навіть без прямих фінансових ставок, буде важко відокремити від ширших дебатів про лутбокси, механіку азартних ігор та цифрове примушування.

У деяких моментах Ньютон зауважив, що розмова була напруженою. Башукі наполягав, що він не розчарований, лише здивований тим, що фокус залишається на безпеці, а не на більш легких темах індустрії, і неодноразово описував позицію Roblox як "ситуацію з високою відповідальністю", яка також є "неймовірною можливістю". Він відкинув образ виконавчого директора, який проводить свої дні, озираючись через плече, стверджуючи, що компанія з самого початку дбала про безпеку, навіть зупинивши зростання в перші тижні свого існування, щоб створити базові інструменти модерації.

Ця впевненість збереглася до кінця інтерв'ю з генеральним директором ROBLOX, коли Руз поставив особисте запитання: чи буде Roblox достатньо безпечним, коли його власний маленький син захоче в нього пограти. Башуцкі не обмежився простою відповіддю "так".

"Roblox зараз - це дивовижна платформа для вашої дитини", - сказав він, запропонувавши показати внутрішні показники на умовах нерозголошення, якщо це необхідно, і додавши, що батьки залишаються "найвищим арбітром відповідальності". - Девід Башукі.

Відповідь відображає позицію компанії в мініатюрі. Roblox позиціонує себе як таку, що вже випереджає час, вже безпечніша за багатьох аналогів, вже використовує інструменти, які з часом переймуть інші. Невирішене питання полягає в тому, чи відповідає ця самооцінка досвіду сімей, які стали свідками випадків грумінгу або експлуатації, що з'явилися на платформі, або творців і захисників, які стверджують, що їхні власні застереження були відкинуті, поки судові позови і заголовки газет не змусили їх відреагувати.

Ніщо з цього не перекреслює того, що створив Roblox. Платформа відіграє допоміжну роль у ширшій економіці онлайн-ігор: це і творчий інструментарій, і величезний соціальний хаб, де діти вчаться, як працюють онлайн-спільноти, в хорошому чи поганому сенсі цього слова. Епізод "Хардфорк" показує, наскільки крихкою може бути ця позиція, коли довіра хитається. Зауваження Башукі не відкрили нових фактів про системи безпеки Roblox, але показали, як керівництво компанії розставляє пріоритети. Інновації, масштаб і довгострокове бачення платформи знаходяться в центрі; чітке визнання шкоди - ближче до краю.

Читайте також " Roblox перевищує 100 мільйонів щоденних активних користувачів " - віха, яка підкреслює, наскільки швидко зросла аудиторія платформи і чому кожне рішення щодо безпеки, модерації та політики тепер має наслідки, що виходять далеко за межі одного інтерв'ю CEO ROBLOX.