Штучний інтелект змінює те, як ми спілкуємося, отримуємо доступ до інформації та працюємо, як розподіляються доходи і статус, і навіть те, як ми ведемо війну. Проте публічна розмова залишається вузько зосередженою на конкуренції між лабораторіями ШІ або на абстрактних дебатах про можливості технології. Майже ніхто не ставить питання, якій меті має служити ШІ, або чи здатні наш нинішній спосіб мислення, інститути та механізми контролю спрямувати цю технологію до широкого покращення добробуту людей.
Тому було приємно бачити, що Папа Лев XIV висловився з цього приводу у своїй першій енцикліці, в якій описує нинішню траєкторію ШІ як глибоку загрозу людській гідності. Як економіст, який давно стверджує, що результати технологічного розвитку є питанням вибору, а не долі, я вітаю його втручання.
Лев випереджає більшість коментаторів, зазначаючи, що «технологія ніколи не є нейтральною, тому що вона набуває характеристик тих, хто її створює, фінансує, регулює та використовує». І все ж я хвилююся, що навіть він не зайшов достатньо далеко у найважливішому питанні: для чого саме має бути створений ШІ?
Як ми з Саймоном Джонсоном підкреслюємо у нашій книзі «Влада і прогрес: наша тисячолітня боротьба за технології та процвітання», існує багато шляхів, якими може розвиватися така технологія, як ШІ, і кожен із них має далекосяжні наслідки для суспільства. Наприклад, Папа має рацію, ставлячи під сумнів нинішню траєкторію ШІ у війні та правоохоронній діяльності. Те, що ще кілька років тому було табу — масове спостереження на основі ШІ, алгоритми, що обирають цілі для знищення — стало буденністю.
У той час як багато хто в Кремнієвій долині закликає Сполучені Штати зміцнити свою «жорстку силу» через новий військово-алгоритмічний комплекс, Лев застерігає, що «будь-яка технологія, яка полегшує атаки без бачення обличчя людини, знижує моральний поріг конфлікту». Далі Папа закликає до «роззброєння ШІ», щоб звільнити його від ментальності «озброєної» конкуренції, яка сьогодні не обмежується лише військовим контекстом, а також є економічним і когнітивним явищем.
Більш фундаментальна мудрість лежить в основі цих конкретних занепокоєнь: технологічний прогрес не обов’язково є моральним прогресом. Те, що щось є технічно можливим, не означає, що це є добрим для людства. Чи є технологія бажаною, залежить від того, хто її контролює, а також від ідеології та інтересів, які їх спрямовують.
Лев натякає на те, що я вважаю найбільш безпосереднім ризиком, а саме що «хоча ШІ обіцяє підвищити продуктивність, перебираючи на себе рутинні завдання, він часто змушує працівників пристосовуватися до швидкості та вимог машин, замість того щоб проєктувати машини так, щоб вони працювали разом із тими, хто працює». Але Папа зупиняється, не ставлячи під сумнів домінуючу філософію проєктування ШІ. Увесь підхід індустрії ШІ зосереджений на наслідуванні людських можливостей і автоматизації людських завдань із метою створення «штучного загального інтелекту», який може робити все, що може людина.
Ця філософія ґрунтується на помилковому припущенні, що машинний інтелект і людський інтелект є принципово подібними. Люди — це «одноразові» учні. Ми формуємо гіпотези з кількох прикладів, моделюємо можливості у своїй свідомості та вдосконалюємо розуміння через соціальний процес спроб і помилок. Саме тому діти вивчають мову, імітуючи кілька слів, узагальнюючи їх і коригуючи свою мову залежно від реакції інших. Ми не дуже добре засвоюємо величезні обсяги інформації або відбираємо релевантні закономірності з неструктурованих даних.
Натомість моделі ШІ процвітають завдяки величезним наборам даних для навчання та відмінно розпізнають закономірності у великих масштабах, але вони ще не продемонстрували справжньої креативності. Вони не мають досвіду втілення у реальному світі, а також не мають здатності до навчання методом спроб і помилок через взаємодію з фізичним і соціальним світом (за винятком обмежених випадків, коли існують чіткі винагороди для навчання з підкріпленням у конкретних сферах).
Коли дві речі відрізняються, не слід — і зазвичай неможливо — використовувати одну для наслідування іншої. Результати будуть неоптимальними. Це було б колосальною помилкою, якби Філ Джексон, легендарний тренер «Чикаго Буллз» 1990-х років, змушував Майкла Джордана наслідувати все, що робили Скотті Піппен і Денніс Родман. Команда переходила від одного чемпіонства до іншого саме тому, що ці гравці працювали разом і доповнювали навички один одного.
Те саме стосується ШІ та людських навичок. Використання ШІ для виконання того, чого люди не можуть, щоб люди могли розширити те, що вони роблять, є більш продуктивним, ніж наслідування. У майбутньому, де ШІ підсилює, а не витісняє людські можливості, електрики будуть користуватися допомогою ШІ-діагностики, медсестри консультуватимуться з ШІ щодо інтерпретації симптомів, а вчителі можуть використовувати ШІ для персоналізації навчання для кожного учня.
Оптимісти та представники індустрії можуть відповісти, що орієнтований на автоматизацію ШІ все одно може принести користь усім, за умови, що політика перерозподілу буде встигати за цими змінами. Але цей аргумент має слабку історію. Чотири десятиліття цифрової автоматизації вже сконцентрували вигоди на верхівці, спустошили робочі місця середньої кваліфікації та призвели до розчаровуючого зростання загальної продуктивності. Немає підстав очікувати, що ще потужніша хвиля автоматизації, запроваджена ще більш концентрованою індустрією, завершиться інакше.
І глобальні ставки навіть вищі, ніж у США. Для мільярдів людей у країнах, що розвиваються, де гідна робота є єдиним надійним шляхом виходу з бідності, порядок денний ШІ, орієнтований на автоматизацію, є рецептом катастрофи. Ми можемо і повинні вимагати іншого підходу до проєктування.
Можливо, найбільшим провалом сучасної індустрії ШІ є її відмова це визнавати. Жменька людей, які запускають цю технологію у світ, керуються ідеологією контролю (над людством) і переконанням, що машини в усьому кращі за людей.
Лев має рацію, закликаючи до моральної ясності та серйозної загальносуспільної дискусії. Але розмова має перейти від закликів до конкретних рішень: антимонопольні заходи проти домінуючих платформ, державні інвестиції у ШІ, що доповнює людину, регулювання спостереження та автономної зброї, а також змістовні права працівників і громадян щодо даних, від яких залежать ці системи.
Втручання Лева робить таку відповідь трохи більш імовірною, ніж це було раніше. Але решта з нас також має стати на захист людства.
автор – Дарон АДЖЕМОГЛУ, лауреат Нобелівської премії з економіки 2024 року та інститутський професор економіки MIT, є співавтором (разом із Джеймсом А. Робінсоном) книги «Чому нації занепадають: походження влади, процвітання і бідності» (Profile, 2019) та співавтором (разом із Саймоном Джонсоном) книги «Влада і прогрес: наша тисячолітня боротьба за технології та процвітання» (PublicAffairs, 2023).
18 червня 2026 року
переклад ПолітКом
