Зростання продуктивності від ШІ розчарує не тому, що технологія слабка, а тому, що вона створює вузьке місце, якого попередні цифрові інструменти значною мірою уникали.
«Відбувається щось велике», — написав засновник ШІ-стартапу Метт Шумер у нещодавньому вірусному есе, яке відобразило зростаючу впевненість його галузі в тому, що технологія забезпечить наступний великий бум продуктивності. Поки що економіка не підтверджує цього. Насправді, після різкого спаду в 1970-х роках, продуктивність у США пережила лише один короткий сплеск зростання: епоху комп’ютерів. Виробіток на годину зростав приблизно на 3% на рік у кінці 1990-х — на початку 2000-х, а потім згас.
Чи може ШІ бути іншим? Оптимісти вказують на загальну продуктивність праці, яка зросла на 1,8% у річному обчисленні в четвертому кварталі 2025 року. Але більш точний показник Федерального резервного банку Сан-Франциско, який виключає циклічну інтенсивність (ефект простого сильнішого використання людей і машин), показує, що продуктивність праці зросла лише на 0,2% у річному обчисленні. Це навряд чи свідчить про «щось велике».
Навпаки, нам пощастило б, якби технологія досягла рівня навіть недовговічної комп’ютерної революції. Зростання продуктивності, ймовірно, розчарує не тому, що технологія слабка, а тому, що вона автоматизує дещо фундаментально інше, ніж те, що робили персональний комп’ютер та Інтернет. Власне кажучи, ШІ створює вузьке місце, якого попередні цифрові інструменти значною мірою уникали.
Подумайте про те, що насправді автоматизувала комп’ютерна революція — швидші обчислення та доступ до знань. ПК, електронна пошта, електронні таблиці та веб усунули перешкоди в процесі пошуку, зберігання та передачі інформації. Досліднику, якому потрібне джерело, більше не потрібно було шукати в бібліотеці чи чекати, поки воно прийде поштою. Здобутки продуктивності були відносно простими, оскільки люди могли просто замінити повільніший метод (бібліотеку) на швидший (Google). Інформація, знайдена в Інтернеті, була такою ж, як і та, що стояла на полиці.
Важливо те, що коли комп’ютери виконували основну роботу, вони робили це детерміновано. Електронна таблиця могла поширювати неправильні вхідні дані, але вона не вигадувала арифметику. Пошукові системи могли видавати нерелевантний матеріал, але вони не фабрикували джерела. Головним ризиком була людська помилка, а не переконливий вимисел.
ШІ автоматизує дещо інше: саме створення когнітивних результатів — від написання текстів до програмування. Він часто виконує ці завдання досить добре. Але оскільки він також може бути впевнено неправильним у правдоподібний спосіб, це створює напругу, з якою ті, хто працював із комп’ютерною революцією, ніколи не стикалися: якщо люди повинні залишатися в контурі для перевірки результатів ШІ, їм все одно знадобляться ті знання, які ШІ нібито замінює. Забезпечення надійності все одно потребує дефіцитного досвіду та часу. Таким чином, частина часу, збереженого на генерації, частково — а іноді й повністю — нівелюється часом, витраченим на відтворення міркувань, перевірку тверджень і взяття на себе відповідальності за результат.
Суд у справах банкрутства Мангеттена надав останню ілюстрацію цієї проблеми лише цього місяця. Sullivan & Cromwell — одна з найпрестижніших фірм Волл-стріт — подала екстрене клопотання, наповнене сфабрикованими цитатами та іншими згенерованими ШІ помилками. Помилки були виявлені не власним процесом перевірки фірми, а адвокатом протилежної сторони. Цей епізод був абсурдним, але й діагностичним. Він показав, що відбувається, коли інструмент, який створює плавний вихідний текст, зустрічається зі світом, який вимагає перевіреної істини.
Глибша проблема полягає не просто в тому, що ШІ може помилятися. Проблема в тому, що ціна помилок змінюється. У міру того, як системи стають більш агентними (acting autonomously) — тобто діють автономно, а не просто генерують текст або код у відповідь на окремі запити, — помилки стають більш наслідковими. Чат-бот, який галюцинує абзац, — це прикро. Агент, який змінює код, переміщує гроші, оформлює документи, видаляє базу даних або запускає дії в різних системах, може завдати реальної шкоди зі швидкістю машини.
Назвіть це податком на перевірку. У будь-якому середовищі, де хтось несе відповідальність за результат — право, медицина, регульовані фінанси, інженерія чи державна політика, — результат роботи ШІ не є готовим продуктом. Це чернетка, яку потрібно перевірити. Робота не зникає; вона зміщується від виробництва до нагляду. Чиста продуктивність стає часом, збереженим на створенні чернетки, мінус час, витрачений на забезпечення її достовірності.
Тому у великому польовому дослідженні служби підтримки клієнтів генеративний ШІ-асистент підвищив продуктивність у середньому приблизно на 14%, зі значно більшими здобутками для новачків і незначною користю для найдосвідченіших працівників. Оскільки завдання були стандартизовані, результати було легше оцінити, а інструмент міг швидко поширювати найкращі практики.
Але коли контекст є складнішим і правильність важче спостерігати, тягар перевірки може переважити користь. Рандомізоване дослідження досвідчених розробників відкритого програмного забезпечення, які працювали над власними репозиторіями, показало, що доступ до передових ШІ-інструментів зробив їх приблизно на 19% повільнішими — головним чином тому, що їхній час йшов на написання запитів, очікування, перегляд і виправлення.
Ці результати свідчать про те, що віддача від ШІ залежить від структури завдання. Там, де помилки є дешевими, а результати легко перевірити, ШІ може прискорити роботу. Там, де помилки є дорогими, а правильність важко спостерігати, вузьке місце зміщується від «виконання роботи» до «сертифікації» (роботи). Машина може створювати нескінченний обсяг результатів, але організація не може поглинути нескінченну перевірку. Як стверджують економісти Крістіан Каталіні, Сян Хуей та Джейн Ву, коли ШІ знижує вартість виконання майже до нуля, основним обмеженням стає людська пропускна здатність для перевірки — наша обмежена здатність підтверджувати результати та брати на себе відповідальність.
Ця рамка також прояснює довгостроковіший ризик. Якщо фірми реагують на ШІ, наймаючи менше молодших юристів та аналітиків, менше навчаючи їх і припускаючи, що машина впорається з першим чернетком, вони руйнують саме той досвід, який потрібен для перевірки результатів роботи машини. Організація виглядатиме стрункішою, доки прихована помилка не спливе на публіку.
Що ж тоді потрібно, щоб ШІ забезпечив широке зростання продуктивності, а не просто велику активність і купу неоціненого ризику? Відповідь — інфраструктура перевірки. Наприклад, федеральний суддя в Техасі тепер вимагає, щоб юристи засвідчували, що будь-який текст, створений ШІ, було перевірено за допомогою традиційних правничих досліджень.
Подібний зсув потрібен у всіх сферах «білих комірців». Якщо компанії хочуть, щоб ШІ-агенти змінювали код, переміщували гроші та оформлювали документи, їм знадобляться походження тверджень (provenance), шляхи аудиту та чіткі стандарти належної обачності. Такі інституційні зміни не відбуваються зі швидкістю випуску нових моделей. Поки нормативно-правові акти, відділи комплаєнсу, професійні стандарти, страхування та суди не наздоженуть, потенціал ШІ залишатиметься обмеженим.
Copyright Project Syndicate
автор – Карл Бенедікт Фрей — доцент кафедри штучного інтелекту та праці в Оксфордському інтернет-інституті, директор програми «Майбутнє роботи» в Оксфордській школі Мартіна. Він є автором книги «Як прогрес закінчується: Технології, інновації та доля націй» (Princeton University Press, 2025).
переклад ПолітКом
