Чому колишній керівник відділу штучного інтелекту Take-Two перестав захищати генеративний штучний інтелект

У квітні Take-Two звільнила всю свою команду зі штучного інтелекту в рамках реструктуризації, що виглядає дивно, враховуючи те, як відкрито галузь загалом займається генеративним ШІ. Загвоздка в тому, що більшість звільнених людей взагалі не працювали над генеративним ШІ. Команда розпочала свою діяльність у Zynga у 2019 році як група досліджень та розробок інновацій, за три роки до того, як ChatGPT змусив громадськість ототожнювати ШІ з великими мовними моделями, і залишилася на місці після того, як Take-Two придбала Zynga у 2022 році. Її колишній керівник, доктор Люк Дікен, висловив свої занепокоєння в інтерв'ю GamesIndustry.biz.

Група працювала як лабораторія у підвалі штаб-квартири Zynga у Сан-Франциско, тестуючи, як штучний інтелект як широка галузь може допомогти у розробці ігор. Дікен орієнтувався на настільні рольові ігри. Він стверджує, що хороший майстер підземель розуміє, чого хочуть гравці, і підлаштовує сесію під це, і що та сама логіка може формувати відеогру на льоту. Команда створила систему машинного навчання профілів, яка відстежувала близько 40 показників на гравця. Ця передумова призвела до появи гри Spell Forest 2020 року, яка, за словами Дікена, довела тезу, змінивши основні бізнес-показники через зміни у тому, як людина сприймає гру.

Випуск ChatGPT 2022 року переписав роботу команди. Коли з'ясувалося, що дані, введені користувачем, можуть стати навчальними даними, Zynga передала групі управління генеративним ШІ по всій компанії, здебільшого навчаючи персонал та затверджуючи інструменти. З команди з 25 осіб лише троє чи четверо працювали над генеративним аспектом; решта продовжили займатися ШІ в ширшому сенсі. Пізніше нагляд поширився на всю Take-Two, перш ніж група була зачинена цього року, а її обов'язки поширилися на інші команди.

Дікен не говорить як людина, яка донедавна була керівником відділу штучного інтелекту. Він розглядає генеративний штучний інтелект як щось, чим він відчував моральний обов'язок керувати, а не як технологію, в яку він вірив.

«Генеративний ШІ — це не те, чим я коли-небудь особливо захоплювався. Я вважаю, що існує моральний обов’язок керувати цим якомога краще, але також виходячи з розуміння того, що для будь-якої великої корпорації у 2025/2026 роках жоден генеративний ШІ не є неправильною відповіддю, яка викличе багато заперечень у багатьох людей».

— Люк Дікен

Його заперечення стосуються трьох напрямків: етики, права та бізнесу. Він посилається на розкриття інформації в судовому процесі, яке показує, що Midjourney зберігав список художників, чиї роботи навчали його моделі, і каже, що знає людей, які працюють над цим. Він ставить під сумнів, чи є результат взагалі хорошим, називаючи LLM предиктором наступного слова, упередженим до середнього значення. Сильний кодер, стверджує він, потрапляє під дію посередньої роботи так само, як і слабкий. Він також зазначає, як мало потрібно, щоб зламати налаштовану модель, де одна зміна в навчальних даних каскадом поширюється по мережі та руйнує варіант використання, який працював ще вчора.

Я вважаю його точку зору щодо регресії до середнього значення найкориснішою рамкою тут, оскільки вона відокремлює маркетинг від того, що інструменти вимірювано роблять. Акції Take-Two зросли на 5% після оголошення про передзамовлення GTA 6 цього тижня, і цей розрив між продуктом Rockstar, зібраним вручну, за який інвестори заплатять премію, та усередненим результатом LLM, є саме тим розривом, який постійно створює Дікен.

Є один плюс, який він пояснює ажіотажем. П'ять років тому пропозиція алгоритму генерації рівнів викликала у нього порожні погляди; тепер та сама кімната схвалює майже все, що позначено як ШІ.

«Це зробило людей більш сприйнятливими до розмов про те, що традиційні методи могли б зробити для них роки тому. Вони більше схильні вірити, що такі речі можуть існувати».

— Люк Дікен

Турбує те, що станеться, коли бульбашка лусне. Штраус Зельник позиціонував GTA 6 як гру, яку «ніколи раніше не робили», такий вид амбіцій, що вимагає років і людської майстерності, а не статистичного усереднення, і Дікен побоюється протилежного результату для цієї галузі: що бульбашка, що лопне, повністю зіпсує галузь, спираючись на штучний інтелект, включаючи традиційні методи. Я думаю, що цей страх є правильним, оскільки негативна реакція рідко відрізняє корисні інструменти від перебільшених. Він посилається на аргумент Еда Зітрона про те, що економіка буму не складається, і робить висновок, що відповідь виглядає негативною в етиці, праві та бізнесі, хоча витрати все одно продовжуються.

«Мене турбує те, що генеративний штучний інтелект отруює криницю. Я не думаю, що існує достатньо витонченості та нюансів, щоб зберегти традиційні речі. Щодо магістра права (LLM), ми вже натрапили на прірву розчарування».

— Люк Дікен

Дікен каже, що те, як студії орієнтуються в цьому, залишається контекстуальним. Стартап, у якого залишилося шість місяців, використає всі можливі переваги. Більша фірма повинна зважити юридичний ризик. Він зупиняється на цінностях: морально правильною відповіддю є відсутність генеративного ШІ, бізнес-правильною відповіддю є достатньо, а межа, яку проводить студія, залежить від того, що її хвилює. Ті ж інтерв'ю Зелніка, які пояснюють, чому розробка GTA 6 зайняла так багато часу, вказують на зовсім іншу модель – компанію, яка витратила 13 років на те, щоб випустити щось, що вона вважає максимально можливим.

Читайте також, Rockstar, схоже, готує третій трейлер GTA 6, непомітно прибравши ярлик «новий» з другого трейлера перед попередніми замовленнями 25 червня, а інсайдер DarkViperAU стверджує, що наступний трейлер триває 20 хвилин.