Помилки штучного інтелекту змусили гендиректора Microsoft захистити призначення генераторних систем

Фраза "AI Slop" стала визначальною для нинішньої реакції проти генеративного штучного інтелекту, і генеральний директор Microsoft Сатья Наделла каже, що індустрія повинна переступити через це. У нещодавньому дописі в блозі Наделла стверджує, що зацикленість на низькоякісній продукції упускає те, що він вважає більш нагальною проблемою: як люди адаптуються до систем штучного інтелекту, які все частіше діють як когнітивні інструменти, а не як генератори новизни.

Термін "відстій" отримав офіційне визнання наприкінці минулого року, коли Merriam-Webster назвав його словом року 2025, посилаючись на потік низькоякісного цифрового контенту, що масово продукується штучним інтелектом. Цей ярлик закріпився після місяців вірусних збоїв у медіа, іграх та розвагах, багато з яких були посилені великими компаніями, що просували роботу ШІ як доказ прогресу.

Microsoft була серед найпомітніших прихильників широкомасштабного розгортання ШІ, інвестуючи десятки мільярдів доларів у моделі, інфраструктуру та інструменти, орієнтовані на споживача. Ці інвестиції збіглися зі зростаючою критикою з боку користувачів, розчарованих нестабільною інтеграцією програмного забезпечення, і творчих працівників, стурбованих ерозією стандартів. Пост Наделли відображає спробу переосмислити цю дискусію.

"Ми пройшли початкову фазу відкриття і вступаємо у фазу широкого розповсюдження", - написав Наделла у своєму блозі на sn scratchpad (за матеріалами The Verge).

"Ми починаємо розрізняти "видовище" і "сутність". Тепер ми маємо чіткіше уявлення про те, куди рухаються технології, але також і про те, як формувати їхній вплив на світ", - Сатья Наделла.

Наделла стверджує, що дебати про шкідливість ШІ та його витонченість затуманюють те, що він назвав глибшим викликом для дизайну. Спираючись на ранній опис Стіва Джобса про комп'ютери як "велосипеди для розуму", він запропонував розуміти ШІ як набір когнітивних підсилювачів, цінність яких залежить від того, як люди їх застосовують.

"Важлива не потужність тієї чи іншої моделі, а те, як люди вирішують застосовувати її для досягнення своїх цілей, - писав він.

"Нам потрібно вийти за рамки аргументів про примітивність чи витонченість і розробити нову рівновагу з точки зору нашої "теорії розуму", яка пояснює, що люди оснащені цими новими інструментами когнітивних підсилювачів, коли ми ставимося один до одного", - Сатья Наделла.

Таке обрамлення не залишилося беззаперечним. Критики вказують на те, що багато з того, з чим користувачі стикаються сьогодні, виправдовує цей ярлик не лише через слабку продуктивність, але й через наслідки. Дослідження, на які посилаються скептики, включаючи принаймні одну статтю, написану у співавторстві з дослідниками Microsoft, свідчать про те, що надмірна залежність від генеративних систем може знизити критичне мислення та продуктивність виконання завдань, а не підвищити їх.

Наделла також окреслив технічний зсув, який, на його думку, визначить наступний етап розгортання ШІ. Замість автономних моделей, за його словами, компанії повинні створювати інтегровані системи, які координують роботу декількох агентів, керують пам'яттю і контролюють використання інструментів у більш безпечний спосіб. Він описав це як інженерну роботу, необхідну для отримання реальної цінності, а не гонитву за увагою за допомогою демонстрацій та автоматизованого контенту.

"Зараз ми вступаємо у фазу, коли будуємо багаті риштування, які організовують безліч моделей і агентів; враховують пам'ять і права; уможливлюють багате і безпечне "використання інструментів", - написав Наделла.

"Це інженерна складність, яку ми повинні продовжувати розвивати, щоб отримати користь від ШІ в реальному світі", - Сатья Наделла.

Коментарі з'являються в той час, коли суспільна толерантність до видовищ, керованих штучним інтелектом, продовжує знижуватися. Гучні невдачі за межами Microsoft посилили скептицизм щодо готовності технології до творчої роботи. Експерименти Disney зі штучним інтелектом стали центром цієї реакції, особливо після того, як компанія Lucasfilm представила "Зоряні війни: Путівник" - відео, створене штучним інтелектом, яке було показано під час виступу на конференції TED у квітні. Короткий ролик, що мав презентувати "нову еру технологій", натомість викликав критику за незв'язний візуальний ряд і синтетичних істот, зшитих з непоєднуваних рис тварин. Цей епізод спричинив ширшу критику корпоративного ентузіазму, що випереджає творчу думку, і ця тенденція відлунює в кіно, телебаченні та іграх.

Наделла опосередковано визнав, що схвалення громадськості більше не гарантоване. Він підкреслив, що поширення ШІ має бути цілеспрямованим і виправданим вимірюваними результатами, а не лише масштабами.

"Для того, щоб ШІ був схвалений суспільством, він повинен мати реальний оціночний вплив", - написав він.

"Вибір, який ми робимо щодо того, куди ми застосовуємо наші обмежені енергетичні, обчислювальні та кадрові ресурси, матиме значення", - Сатья Наделла.

Незважаючи на оптимістичне обрамлення, пост Наделли містив незвичну ноту застереження. Він описав майбутнє ШІ як невизначене і наголосив на умовній мові при обговоренні його потенційних переваг. Після багатьох років впевнених прогнозів від великих компаній ця стриманість була особливо помітною.

"Комп'ютеризація протягом усієї своєї історії була спрямована на розширення можливостей людей і організацій досягати більшого, і ШІ повинен йти тим же шляхом, - написав він.

"Якщо ми це зробимо, він може стати однією з найглибших хвиль розвитку обчислювальної техніки", - Сатья Наделла.

Наголос на "якщо" відображає поточну позицію галузі. Відходи штучного інтелекту стали скороченням для позначення розчарування громадськості не лише результатами, але й обіцянками, які не змогли втілитися в реальність. Оскільки компанії продовжують витрачати значні кошти на системи, економічна та культурна цінність яких залишається під питанням, розрив між амбіціями та прийняттям розширюється. Заклик Наделли вийти за межі цього терміну може свідчити не стільки про відмову від критики, скільки про визнання того, що індустрія ще не подолала її.