додому Стратегія МАШИНИ ЛЮБЛЯЧОЇ БЛАГОДАТІ

Стратегія

МАШИНИ ЛЮБЛЯЧОЇ БЛАГОДАТІ

Січ 8, 2025

Даріо Амодей

Як ШІ може змінити світ на краще

Я багато думаю і говорю про ризики потужного штучного інтелекту. Компанія, генеральним директором якої я є, Anthropic, проводить багато досліджень щодо того, як зменшити ці ризики. Через це люди іноді роблять висновок, що я песиміст або “приречений”, який вважає, що ШІ буде в основному поганим або небезпечним. Я взагалі так не думаю. Насправді, одна з моїх головних причин зосередження уваги на ризиках полягає в тому, що вони є єдиним, що стоїть між нами і тим, що я бачу як принципово позитивне майбутнє. Я думаю, що більшість людей недооцінюють, наскільки радикальним може бути підйом ШІ, так само, як я думаю, що більшість людей недооцінюють, наскільки поганими можуть бути ризики.

У цьому есе я намагаюся накреслити, як може виглядати цей бік — як може виглядати світ з потужним штучним інтелектом, якщо все піде правильно. Звичайно, ніхто не може знати майбутнє з будь-якою впевненістю чи точністю, і наслідки потужного штучного інтелекту, ймовірно, будуть ще більш непередбачуваними, ніж минулі технологічні зміни, тому все це неминуче буде складатися з здогадок. Але я прагну до принаймні освічених і корисних здогадок, які відображають смак того, що станеться, навіть якщо більшість деталей в кінцевому підсумку помиляються. Я включаю багато деталей, головним чином тому, що думаю, що конкретне бачення робить більше для просування дискусії, ніж високо хеджований і абстрактний.

Однак спочатку я хотів коротко пояснити, чому ми з Anthropic не так багато говорили про сильні сторони потужного штучного інтелекту, і чому ми, ймовірно, продовжимо, загалом, багато говорити про ризики. Зокрема, я зробив цей вибір з бажання:

Максимізувати важелі впливу. Базовий розвиток технології штучного інтелекту та багато (не всі) її переваг здаються неминучими (якщо ризики не зривають все) і принципово керуються потужними ринковими силами. З іншого боку, ризики не визначені заздалегідь, і наші дії можуть значно змінити їх ймовірність.
Уникати сприйняття пропаганди. Компанії зі штучним інтелектом, які говорять про всі дивовижні переваги штучного інтелекту, можуть виходити як пропагандисти, або ніби вони намагаються відволіктися від недоліків. Я також думаю, що в принципі для вашої душі погано витрачати занадто багато часу на “розмову про свою книгу”.
Уникати грандіозності. Мене часто відключає те, як багато публічних діячів ризикують штучним інтелектом (не кажучи вже про керівників компаній зі штучним інтелектом) говорять про світ після AGI, ніби їхня місія полягає в тому, щоб одноосібно довести його, як пророк, який веде свій народ до спасіння. Я думаю, що небезпечно розглядати компанії як такі, що в односторонньому порядку формують світ, і небезпечно розглядати практичні технологічні цілі в по суті релігійному плані.
Уникати “науково-фантастичного” багажу. Хоча я думаю, що більшість людей недооцінюють позитивні сторони потужного ШІ, невелика спільнота людей, які обговорюють радикальне майбутнє ШІ, часто робить це в надмірно “науково-фантастичному” тоні (з, наприклад, завантаженими умами, дослідженням космосу або загальними кіберпанк-вайбами). Я думаю, що це змушує людей сприймати претензії менш серйозно і наповнювати їх якоюсь нереальністю. Щоб було зрозуміло, питання не в тому, чи є описані технології можливими чи ймовірними (головне есе детально обговорює це) — це більше, “в тому, що “айб” коннотативно контрабандою ввозить купу культурного багажу та припущень про те, яке майбутнє є бажаним, як будуть розігруватися різні суспільні проблеми тощо. Результат часто закінчується читанням як фантазія для вузької субкультури, при цьому він відлякує більшість людей.

Проте, незважаючи на всі вищезазначені проблеми, я дійсно думаю, що важливо обговорити, як може виглядати хороший світ з потужним штучним інтелектом, роблячи все можливе, щоб уникнути вищезазначених підводних каменів. Насправді я думаю, що дуже важливо мати справді надихаюче бачення майбутнього, а не просто план боротьби з пожежами. Багато наслідків потужного ШІ є змагальними або небезпечними, але в кінці всього цього має бути щось, за що ми боремося, якийсь позитивний результат, де всім краще, щось, щоб згуртувати людей, щоб піднятися над своїми сварками і протистояти майбутнім викликам. Страх — це один з видів мотиватора, але цього недостатньо: нам також потрібна надія.

Список позитивних застосувань потужного штучного інтелекту надзвичайно довгий (і включає робототехніку, виробництво, енергетику та багато іншого), але я збираюся зосередитися на невеликій кількості областей, які, на мені здається, мають найбільший потенціал для безпосереднього поліпшення якості людського життя. П’ять категорій, які мене найбільше хвилюють:

Біологія та фізичне здоров’я
Неврологія та психічне здоров’я
Економічний розвиток і бідність
Мир та управління
Робота та значення

Мої прогнози будуть радикальними, як судять більшість стандартів (крім науково-фантастичних видінь “сингулярності”), але я маю на увазі їх щиро і щиро. Все, що я кажу, дуже легко може бути неправильним (повторюючи мою точку зору зверху), але я принаймні спробував обґрунтувати свої погляди на напіваналітичній оцінці того, наскільки прогрес у різних сферах може прискоритися і що це може означати на практиці. Мені пощастило мати професійний досвід як у біології, так і в неврології, і я поінформований любитель у галузі економічного розвитку, але я впевнений, що зроблю багато речей неправильно. Одна річ, написання цього есе змусила мене зрозуміти, що було б корисно зібрати групу експертів галузі (з біології, економіки, міжнародних відносин та інших галузей), щоб написати набагато кращу та більш інформовану версію того, що я тут створив. Напевно, найкраще розглядати мої зусилля тут як стартову підказку для цієї групи.

Основні припущення та структура

Щоб зробити все це есе більш точним і обґрунтованим, корисно чітко вказати, що ми маємо на увазі під потужним ШІ (тобто поріг, на якому починає рахувати 5–10-річний годинник), а також закласти основу для роздумів про наслідки такого ШІ, як тільки він присутній.

Як буде виглядати потужний ШІ (мені не подобається термін AGI), і коли (або якщо) він з’явиться, — це величезна тема сама по собі. Це те, що я обговорював публічно і міг би написати абсолютно окреме есе (я, ймовірно, в якийсь момент це зроблю). Очевидно, що багато людей скептично ставляться до того, що незабаром буде побудований потужний ШІ, а деякі скептично ставляться до того, що він взагалі буде побудований. Я думаю, що це може прийти вже в 2026 році, хоча є також способи, як це може зайняти набагато більше часу. Але для цілей цього есе я хотів би відкласти ці проблеми в сторону, припустити, що це станеться досить скоро, і зосередитися на тому, що станеться через 5–10 років після цього. Я також хочу припустити визначення того, як буде виглядати така система, які її можливості та як вона взаємодіє, хоча є місце для розбіжностей з цього приводу.

Під потужним штучним інтелектом я маю на увазі модель штучного інтелекту — ймовірно, схожу на сьогоднішню форму LLM, хоча вона може бути заснована на іншій архітектурі, може включати кілька взаємодіючих моделей і може бути навчена по-іншому — з наступними властивостями:

З точки зору чистого інтелекту, він розумніший за лауреата Нобелівської премії в найбільш релевантних галузях — біології, програмування, математики, інженерії, письма тощо. Це означає, що він може довести невирішені математичні теореми, написати надзвичайно хороші романи, написати складні кодові бази з нуля тощо.
На додаток до того, що це просто “розумна річ, з якою ви розмовляєте”, він має всі “інтерфейси”, доступні людині, яка працює віртуально, включаючи текст, аудіо, відео, управління мишею та клавіатурою, а також доступ до Інтернету. Він може брати участь у будь-яких діях, комунікаціях або віддалених операціях, що підтримуються цим інтерфейсом, включаючи вжиття дій в Інтернеті, прийняття або надання вказівок людям, замовлення матеріалів, керівництво експериментами, перегляд відео, створення відео тощо. Він виконує всі ці завдання з, знову ж таки, майстерністю, що перевершує майстерність найбільш здібних людей у світі.
Він не просто пасивно відповідає на запитання; замість цього йому можуть дати завдання, виконання яких займає години, дні або тижні, а потім він вимикається і виконує ці завдання автономно, так само, як це робив би розумний працівник, просячи роз’яснень за необхідності.
Він не має фізичного втілення (крім життя на екрані комп’ютера), але він може керувати існуючими фізичними інструментами, роботами або лабораторним обладнанням через комп’ютер; теоретично він навіть може розробляти роботів або обладнання для себе.
Ресурси, що використовуються для навчання моделі, можуть бути перепрофільовані для запуску мільйонів її екземплярів (це відповідає прогнозованим розмірам кластерів на ~2027), і модель може поглинати інформацію та генерувати дії приблизно з 10x-100x людської швидкості5. Однак він може бути обмежений часом відгуку фізичного світу або програмного забезпечення, з яким він взаємодіє.
Кожна з цих мільйонів копій може діяти незалежно над непов’язаними завданнями, або, якщо це необхідно, може працювати разом однаково, як люди співпрацювали б, можливо, з різними субпопуляціями, точно налаштованими, щоб бути особливо хорошими для конкретних завдань.

Ми могли б підсумувати це як “країну геніїв у центрі обробки даних”.

Очевидно, що така сутність була б здатна вирішувати дуже складні проблеми, дуже швидко, але не тривіально з’ясувати, як швидко. Дві “екстремальні” позиції здаються мені помилковими. По-перше, ви можете подумати, що світ миттєво трансформується за шкалою секунд або днів (“Сингулярність”), оскільки вищий інтелект будується на собі і вирішує всі можливі наукові, інженерні та операційні завдання майже відразу. Проблема полягає в тому, що існують реальні фізичні та практичні обмеження, наприклад, щодо побудови обладнання або проведення біологічних експериментів. Навіть нова країна геніїв вдарила б по цих обмеженнях. Інтелект може бути дуже потужним, але це не чарівний казковий пил.

По-друге, і навпаки, ви можете вважати, що технологічний прогрес насичений або обмежений реальними даними або соціальними факторами, і що кращий за людський інтелект додасть дуже мало. Це здається мені однаково неправдоподібним — я можу думати про сотні наукових або навіть соціальних проблем, де велика група дійсно розумних людей різко прискорить прогрес, особливо якщо вони не обмежені аналізом і можуть зробити так, щоб все відбувалося в реальному світі (що наша постульована країна геніїв може, в тому числі шляхом керівництва або допомоги командам людей).

Я думаю, що правда, ймовірно, буде якоюсь безладною сумішшю цих двох екстремальних картин, чимось, що залежить від завдання та поля і дуже тонке у своїх деталях. Я вважаю, що нам потрібні нові рамки, щоб продуктивно думати про ці деталі.

Економісти часто говорять про “фактори виробництва”: такі речі, як праця, земля та капітал. Фраза “маргінальна віддача від праці/землі/капіталу” відображає ідею, що в даній ситуації даний фактор може бути або не бути обмежуючим — наприклад, військово-повітряним силам потрібні як літаки, так і пілоти, і найм більшої кількості пілотів не дуже допомагає, якщо ви вийшли з літаків. Я вважаю, що в епоху штучного інтелекту ми повинні говорити про маргінальну віддачу і намагатися з’ясувати, які інші фактори доповнюють інтелект і стають обмежуючими факторами, коли інтелект дуже високий. Ми не звикли думати таким чином — питати “наскільки бути розумнішими допомагає з цим завданням і в який час?” — але це здається правильним способом концептуалізувати світ з дуже потужним штучним інтелектом.

Моя здогадка щодо списку факторів, які обмежують або доповнюють інтелект, включає:

Швидкість зовнішнього світу. Інтелектуальні агенти повинні діяти інтерактивно у світі, щоб досягти чогось, а також вчитися. Але світ рухається лише так швидко. Клітини та тварини працюють з фіксованою швидкістю, тому експерименти на них займають певну кількість часу, яка може бути незвідною. Те саме стосується апаратного забезпечення, матеріалознавства, всього, що пов’язано зі спілкуванням з людьми, і навіть нашої існуючої програмної інфраструктури. Крім того, в науці багато експериментів часто потрібні послідовно, кожен з яких вчиться або будується на останньому. Все це означає, що швидкість, з якою великий проект, наприклад, розробка лікування раку, може бути завершений, може мати незвідний мінімум, який не може бути зменшений далі, навіть якщо інтелект продовжує зростати.
Потреба в даних. Іноді не вистачає необроблених даних, і за їх відсутності більше інтелекту не допомагає. Сьогоднішні фізики елементарних частинок дуже геніальні і розробили широкий спектр теорій, але їм не вистачає даних для вибору між ними, оскільки дані прискорювача частинок настільки обмежені. Незрозуміло, що вони впоралися б значно краще, якби були суперінтелектуальними — крім того, що, можливо, прискоривши будівництво більшого прискорювача.
Внутрішня складність. Деякі речі за своєю суттю непередбачувані або хаотичні, і навіть найпотужніший ШІ не може передбачити або розплутати їх значно краще, ніж людина або комп’ютер сьогодні. Наприклад, навіть неймовірно потужний ШІ може передбачити лише трохи далі в хаотичній системі (наприклад, проблема трьох тіл) у загальному випадку,9 порівняно з сучасними людьми та комп’ютерами.
Обмеження від людей. Багато речей не можна зробити без порушення законів, завдаючи шкоди людям або псування суспільства. Вирівняний ШІ не хотів би робити ці речі (і якщо у нас є невирівняний ШІ, ми повернемося до розмови про ризики). Багато людських суспільних структур є неефективними або навіть активно шкідливими, але їх важко змінити, дотримуючись обмежень, таких як юридичні вимоги до клінічних випробувань, готовність людей змінити свої звички або поведінка урядів. Приклади досягнень, які добре працюють у технічному сенсі, але вплив яких був значно зменшений нормативними актами або недоречними страхами, включають ядерну енергетику, надзвуковий політ і навіть ліфти.
Фізичні закони. Це більш різка версія першого пункту. Існують певні фізичні закони, які здаються непорушними. Неможливо подорожувати швидше, ніж світло. Пудинг не розмішується. Чіпи можуть мати лише стільки транзисторів на квадратний сантиметр, перш ніж вони стануть ненадійними. Обчислення вимагає певної мінімальної енергії на стертий біт, що обмежує щільність обчислень у світі.

Існує подальша відмінність, заснована на часових масштабах. Речі, які є жорсткими обмеженнями в короткостроковій перспективі, можуть стати більш податливими для інтелекту в довгостроковій перспективі. Наприклад, інтелект може бути використаний для розробки нової експериментальної парадигми, яка дозволяє нам вивчити in vitro, що раніше вимагало експериментів на живих тваринах, або створити інструменти, необхідні для збору нових даних (наприклад, більший прискорювач частинок), або (в рамках етичних меж) знайти способи обійти обмеження, засновані на людях (наприклад, допомогти покращити систему клінічних випробувань, допомогти створити нові юрисдикції, де клінічні випробування мають менше бюрократії, або покращити саму науку, щоб зробити клінічні випробування на людях менш необхідними або дешевшими).

Таким чином, ми повинні уявити собі картину, де інтелект спочатку сильно вузький порівняно з іншими факторами виробництва, але з часом сам інтелект все більше рухається навколо інших факторів, навіть якщо вони ніколи повністю не розчиняються (а деякі речі, такі як фізичні закони, є абсолютними). Ключове питання полягає в тому, як швидко все це відбувається і в якому порядку.

Маючи на увазі вищевказану структуру, я спробую відповісти на це питання щодо п’яти областей, згаданих у вступі.

1. Біологія та здоров’я

Біологія, ймовірно, є областю, де науковий прогрес має найбільший потенціал для прямого та однозначного поліпшення якості людського життя. У минулому столітті деякі з найдавніших людських недуг (таких як віспа) нарешті були переможені, але ще багато інших все ще залишаються, і перемога їх була б величезним гуманітарним досягненням. Окрім навіть лікування хвороб, біологічна наука може в принципі покращити базову якість людського здоров’я, продовжуючи здорову тривалість життя людини, збільшуючи контроль і свободу над нашими власними біологічними процесами, а також вирішуючи повсякденні проблеми, які ми в даний час вважаємо незмінними частинами людського стану.

У мові “обмежувальних факторів” попереднього розділу основними проблемами безпосереднього застосування інтелекту до біології є дані, швидкість фізичного світу та внутрішня складність (насправді всі три пов’язані один з одним). Людські обмеження також відіграють певну роль на більш пізньому етапі, коли беруть участь клінічні випробування. Давайте візьмемо їх один за одним.

Експерименти на клітинах, тваринах і навіть хімічних процесах обмежені швидкістю фізичного світу: багато біологічних протоколів передбачають культивування бактерій або інших клітин, або просто очікування хімічних реакцій, і це іноді може зайняти дні або навіть тижні, без очевидного способу прискорити це. Експерименти на тваринах можуть тривати місяці (або більше), а експерименти на людях часто займають роки (або навіть десятиліття для довгострокових досліджень результатів).

Дещо пов’язаних з цим, часто не вистачає даних — не стільки в кількості, скільки в якості: завжди є нестача чітких, однозначних даних, які ізолюють біологічний ефект інтересу від інших 10 000 заплутаних речей, які відбуваються, або які причинно втручаються в даний процес, або які безпосередньо вимірюють певний ефект (на відміну від висування його наслідків якимось непрямим або шумним способом). Навіть масивні кількісні молекулярні дані, такі як дані протеоміки, які я зібрав під час роботи над методами мас-спектрометрії, шумлять і багато пропускають (в яких типах клітин були ці білки? Яка частина клітини? На якій фазі клітинного циклу?).

Частково відповідальною за ці проблеми з даними є внутрішня складність: якщо ви коли-небудь бачили діаграму, що показує біохімію людського метаболізму, ви будете знати, що дуже важко ізолювати ефект будь-якої частини цієї складної системи, і ще важче втрутитися в систему точним або передбачуваним способом. І, нарешті, крім просто внутрішнього часу, який потрібен для проведення експерименту на людях, фактичні клінічні випробування включають багато бюрократії та нормативних вимог, які (на думку багатьох людей, включаючи мене) додають непотрібний додатковий час і затримують прогрес.

З огляду на все це, багато біологів вже давно скептично ставляться до цінності штучного інтелекту та “великих даних” загалом у біології. Історично склалося так, що математики, комп’ютерні вчені та фізики, які застосовували свої навички в біології протягом останніх 30 років, були досить успішними, але не мали по-справжньому трансформаційного впливу, на який сподівалися спочатку. Деякий скептицизм був зменшений великими та революційними проривами, такими як AlphaFold (який щойно заслужено виграв своїх творців Нобелівську премію з хімії) та AlphaProteo, але все ще існує думка, що ШІ є (і буде продовжувати бути) корисним лише за обмежених обставин. Поширене формулювання: “ШІ може краще аналізувати ваші дані, але він не може виробляти більше даних або покращувати якість даних. Сміття в, сміття на вивес».

Але я думаю, що песимістична перспектива думає про ШІ неправильно. Якщо наша основна гіпотеза про прогрес штучного інтелекту правильна, то правильний спосіб думати про ШІ — це не як метод аналізу даних, а як віртуальний біолог, який виконує всі завдання, які виконують біологи, включаючи розробку та проведення експериментів у реальному світі (керуючи лабораторними роботами або просто повідомляючи людям, які експерименти проводити — як головний дослідник зробив би це своїм аспірантам), винахід нових біологічних методів або методів вимірювання тощо. Саме прискоривши весь дослідницький процес, ШІ може по-справжньому прискорити біологію. Я хочу повторити це, тому що це найпоширеніша помилка, яка виникає, коли я говорю про здатність ШІ трансформувати біологію: я говорю не про ШІ як про просто інструмент для аналізу даних. Відповідно до визначення потужного ШІ на початку цього есе, я говорю про використання ШІ для виконання, керівництва та вдосконалення майже всього, що роблять біологи.

Щоб бути більш конкретним щодо того, звідки, на мою думку, прискорення, ймовірно, походить, напрочуд велика частина прогресу в біології прийшла з справді крихітної кількості відкриттів, часто пов’язаних з широкими інструментами або методами вимірювання, які дозволяють точне, але узагальнене або програмоване втручання в біологічні системи. Можливо, є ~1 з цих основних відкриттів на рік, і в сукупності вони, можливо, стимулюють >50% прогресу в біології. Ці відкриття настільки потужні саме тому, що вони прорізають внутрішню складність та обмеження даних, безпосередньо збільшуючи наше розуміння та контроль над біологічними процесами. Кілька відкриттів за десятиліття дозволили як основну частину нашого базового наукового розуміння біології, так і сприяли багатьом найпотужнішим медичним методам лікування.

Деякі приклади включають:

CRISPR: методика, яка дозволяє редагувати будь-який ген у живих організмах наживо (заміна будь-якої довільної послідовності генів будь-якою іншою довільною послідовністю). З моменту розробки оригінальної техніки були постійні вдосконалення для націлювання на конкретні типи клітин, підвищення точності та зменшення редагування неправильного гена — все це необхідно для безпечного використання у людей.
Різні види мікроскопії для спостереження за тим, що відбувається на точному рівні: передові світлові мікроскопи (з різними видами флуоресцентних методів, спеціальної оптики тощо), електронні мікроскопи, атомно-силові мікроскопи тощо.
Секвенування та синтез генома, вартість якого впала на кілька порядків за останні пару десятиліть.
Оптогенетичні методи, які дозволяють змусити нейрон стріляти, висвітлюючи його.
МРНК-вакцини, які, в принципі, дозволяють нам розробити вакцину проти чого завгодно, а потім швидко адаптувати її (мРНК-вакцини, звичайно, стали відомими під час COVID).
Клітинна терапія, така як CAR-T, яка дозволяє вивозити імунні клітини з організму і “перепрограмувати” на атаку, в принципі, будь-що.
Концептуальні ідеї, такі як мікробна теорія захворювання або реалізація зв’язку між імунною системою та раком.

Я збираюся потрудитися перерахувати всі ці технології, тому що я хочу зробити вирішальне твердження про них: я думаю, що їх швидкість відкриття могла б бути збільшена в 10 разів або більше, якби було набагато більш талановитих, творчих дослідників. Або, іншими словами, я думаю, що віддача від інтелекту висока для цих відкриттів, і що все інше в біології та медицині в основному випливає з них.

Чому я так думаю? Через відповіді на деякі питання, які ми повинні мати звичку задавати, коли намагаємося визначити “повернення до інтелекту”. По-перше, ці відкриття, як правило, робляться невеликою кількістю дослідників, часто одні й ті ж люди неодноразово, припускаючи майстерність, а не випадковий пошук (останній може припустити, що тривалі експерименти є обмежуючим фактором). По-друге, вони часто “могли бути зроблені” на роки раніше, ніж вони були: наприклад, CRISPR був природним компонентом імунної системи в бактеріях, який був відомий з 80-х років, але людям знадобилося ще 25 років, щоб зрозуміти, що його можна перепрофілювати для загального редагування генів. Вони також часто затримуються на багато років через відсутність підтримки з боку наукової спільноти для перспективних напрямків (див. цей профіль винахідника мРНК-вакцин; подібних історій багато). По-третє, успішні проєкти часто є незграбними або були післядумками, які люди спочатку не вважали перспективними, а не масово фінансованими зусиллями. Це говорить про те, що відкриттями керує не лише масова концентрація ресурсів, а й винахідливість.

Нарешті, хоча деякі з цих відкриттів мають “посеріальну залежність” (вам потрібно спочатку зробити відкриття A, щоб мати інструменти або знання, щоб зробити відкриття B) — що знову ж таки може створити експериментальні затримки — багато, можливо, більшість, є незалежними, а це означає, що над багатьма одночасно можна працювати паралельно. І ці факти, і мій загальний досвід як біолога, настійно підказують мені, що є сотні цих відкриттів, які чекають на те, щоб їх зробили, якби вчені були розумнішими і кращими у створенні зв’язків між величезною кількістю біологічних знань, якими володіє людство (знову ж таки розглянемо приклад CRISPR). Успіх AlphaFold/AlphaProteo у вирішенні важливих проблем набагато ефективніше, ніж люди, незважаючи на десятиліття ретельно розробленого фізичного моделювання, забезпечує доказ принципу (хоча і з вузьким інструментом у вузькій області), який повинен вказувати шлях вперед.

Таким чином, я припускаю, що потужний ШІ може дати принаймні в 10 разів більше цих відкриттів, даючи нам наступні 50–100 років біологічного прогресу за 5–10 років. Чому б не 100x? Можливо, це можливо, але тут як послідовна залежність, так і час експерименту стають важливими: отримання 100 років прогресу за 1 рік вимагає багатьох речей, щоб піти правильно з першого разу, включаючи експерименти на тваринах і такі речі, як проектування мікроскопів або дорогих лабораторних приміщень. Я насправді відкритий для (можливо, абсурдної) ідеї про те, що ми могли б отримати 1000 років прогресу за 5–10 років, але дуже скептично налаштований щодо того, що ми можемо отримати 100 років за 1 рік. Інший спосіб поставити це, я думаю, що існує неминуча постійна затримка: експерименти та апаратне проектування мають певну “затримку” і повинні бути ітеровані на певну “незвідну” кількість разів, щоб вивчити речі, які не можна вивести логічно. Але масовий паралелізм може бути можливим на додаток до цього15.

А як щодо клінічних випробувань? Хоча з ними пов’язано багато бюрократії та уповільнення, правда в тому, що багато (хоча аж ніяк не все!) їх повільність в кінцевому підсумку випливає з необхідності суворої оцінки препаратів, які ледве працюють або неоднозначно працюють. На жаль, це стосується більшості методів лікування сьогодні: середній препарат від раку збільшує виживаність на кілька місяців, маючи значні побічні ефекти, які потрібно ретельно вимірювати (є аналогічна історія з препаратами Альцгеймера). Це призводить до величезних досліджень (для досягнення статистичної влади) та складних компромісів, які регулюючі органи, як правило, не дуже добре роблять, знову ж таки через бюрократію та складність конкуруючих інтересів.

Коли щось працює дійсно добре, це йде набагато швидше: є прискорений трек схвалення, і легкість затвердження набагато більша, коли розміри ефекту більші. мРНК-вакцини для COVID були схвалені через 9 місяців — набагато швидше, ніж звичайні темпи. Тим не менш, навіть за цих умов клінічні випробування все ще занадто повільні — мРНК-вакцини, можливо, повинні були бути схвалені через ~2 місяці. Але такі затримки (~1 рік від кінця до кінця для препарату) у поєднанні з масовою розпаралелюванням і необхідністю в деякої, але не надто великої ітерації (“кілька спроб”) дуже сумісні з радикальною трансформацією за 5–10 років. Ще більш оптимістично, можливо, що біологічна наука з підтримкою штучного інтелекту зменшить потребу в ітерації в клінічних випробуваннях шляхом розробки кращих експериментальних моделей на тваринах і клітинах (або навіть симуляцій), які є більш точними у прогнозуванні того, що станеться з людьми. Це буде особливо важливо при розробці препаратів проти процесу старіння, який розігрується протягом десятиліть, і де нам потрібен швидший цикл ітерації.

Нарешті, на тему клінічних випробувань та суспільних бар’єрів варто чітко зазначити, що певним чином біомедичні інновації мають надзвичайно сильний послужний список успішного розгортання, на відміну від деяких інших технологій. Як згадувалося у вступі, багатьом технологіям перешкоджають суспільні фактори, незважаючи на те, що вони добре працюють технічно. Це може запропонувати песимістичний погляд на те, чого може досягти ШІ.Але біомедицина унікальна тим, що, хоча процес розробки ліків надмірно громіздкий, після розробки вони, як правило, успішно розгортаються та використовуються.

Підсумовуючи вищесказане, моє основне передбачення полягає в тому, що біологія та медицина з підтримкою штучного інтелекту дозволять нам стиснути прогрес, якого біологи-люди досягли б протягом наступних 50–100 років до 5–10 років. Я буду називати це “стисненим 21 століттям”: ідея, що після розвитку потужного штучного інтелекту ми за кілька років досягнемо всього прогресу в біології та медицині, якого ми досягли б за все 21 століття.

Хоча прогнозування того, що потужний ШІ може зробити за кілька років, залишається за своєю суттю складним і спекулятивним, є певна конкретність, щоб запитати: “Що люди можуть зробити без допомоги протягом наступних 100 років?”. Просто дивлячись на те, чого ми досягли в 20-му столітті, або екстраполюючи з перших 2 десятиліть 21-го, або запитуючи, що нам дасть “10 CRISPR і 50 CAR-T”, всі вони пропонують практичні, обґрунтовані способи оцінити загальний рівень прогресу, який ми могли б очікувати від потужного штучного інтелекту.

Нижче я намагаюся скласти список того, чого ми можемо очікувати. Це не базується на будь-якій суворій методології, і майже напевно виявиться неправильним у деталях, але це спроба пройти загальний рівень радикалізму, якого ми повинні очікувати:

Надійна профілактика та лікування майже всіх природних інфекційних захворювань. З огляду на величезні досягнення проти інфекційних захворювань у 20-му столітті, не радикально уявити, що ми могли б більш-менш “закінчити роботу” у стиснутих 21-й. мРНК-вакцини та подібні технології вже вказують шлях до “вакцин для чого завгодно”. Чи повністю викорінені інфекційні захворювання зі світу (на відміну від лише в деяких місцях), залежить від питань бідності та нерівності, які обговорюються в розділі 3.
Усунення більшості видів раку. Рівень смертності від раку падав на ~2% на рік протягом останніх кількох десятиліть; таким чином, ми на шляху до усунення більшості видів раку в 21 столітті в нинішніх темпах гуманітарної науки. Деякі підтипи вже значною мірою вилікувалися (наприклад, деякі типи лейкемії з терапією CAR-T), і я, можливо, навіть більш схвильований дуже селективними препаратами, які націлені на рак у зародковому стані і запобігають його зростанню. ШІ також зробить можливими схеми лікування, дуже тонко адаптованими до індивідуалізованого геному раку — вони можливі сьогодні, але надзвичайно дорогі за часом та людським досвідом, які ШІ повинен дозволити нам масштабувати. Зниження на 95% або більше як смертності, так і захворюваності здається можливим. Тим не менш, рак надзвичайно різноманітний і адаптивний, і, ймовірно, є найважчим з цих захворювань для повного знищення. Не дивно, якщо асортимент рідкісних, складних злоякісних новоутворень збережеться.
Дуже ефективна профілактика та ефективне лікування генетичних захворювань. Значно покращений скринінг ембріонів, ймовірно, дозволить запобігти більшості генетичних захворювань, а деякі безпечніші, надійніші нащадки CRISPR можуть вилікувати більшість генетичних захворювань у існуючих людей. Однак недуги всього тіла, які впливають на велику частку клітин, можуть бути останніми утримками.
Профілактика хвороби Альцгеймера. Нам було дуже важко з’ясувати, що викликає хворобу Альцгеймера (це якось пов’язано з бета-амілоїдним білком, але фактичні деталі здаються дуже складними). Здається, це саме той тип проблеми, який можна вирішити за допомогою кращих інструментів вимірювання, які ізолюють біологічні ефекти; таким чином, я оптильний щодо здатності ШІ вирішувати її. Є велика ймовірність, що в кінцевому підсумку цьому можна запобігти за допомогою відносно простих втручань, як тільки ми насправді зрозуміємо, що відбувається. Тим не менш, шкоду від вже існуючої хвороби Альцгеймера може бути дуже важко повернути назад.
Покращене лікування більшості інших недуг. Це категорія для інших захворювань, включаючи діабет, ожиріння, хвороби серця, аутоімунні захворювання тощо. Більшість з них здаються “легшими” для вирішення, ніж рак і хвороби Альцгеймера, і в багатьох випадках вже різко знижуються. Наприклад, смертність від серцевих захворювань вже знизилася більш ніж на 50%, а прості втручання, такі як агоністи GLP-1, вже досягли величезного прогресу у боротьбі з ожирінням та діабетом.
Біологічна свобода. Останні 70 років ознаменувалися досягненнями в контролі над народжуваністю, фертильності, управлінні вагою та багато іншого. Але я підозрюю, що біологія, прискорена штучним інтелектом, значно розширить те, що можливо: вага, зовнішній вигляд, розмноження та інші біологічні процеси будуть повністю під контролем людей. Ми будемо посилатися на них під заголовком біологічної свободи: ідея, що кожен повинен мати можливість вибирати, ким він хоче стати, і жити своїм життям так, як йому найбільше подобається. Звичайно, будуть важливі питання про глобальну рівність доступу; для них див. Розділ 3.
Подвоєння тривалості життя людини. Це може здатися радикальним, але тривалість життя зросла майже в 2 рази в 20-му столітті (з ~40 років до ~75), тому “в тренді”, що “стиснутий 21-й” знову подвоїть його до 150. Очевидно, що втручання, пов’язані з уповільненням фактичного процесу старіння, будуть відрізнятися від тих, які були потрібні в минулому столітті для запобігання (переважно дитячої) передчасної смерті від хвороб, але масштаби змін не є безпрецедентними19. Зокрема, вже існують препарати, які збільшують максимальну тривалість життя щурів на 25–50% з обмеженими шкідливими наслідками. А деякі тварини (наприклад, деякі види черепах) вже живуть 200 років, тому люди явно не знаходяться на якійсь теоретичній верхній межі. Припускаю, що найважливішим, що потрібно, можуть бути надійні біомаркери старіння людини, які не є Гудхартом, оскільки це дозволить швидко ітерувати експерименти та клінічні випробування. Як тільки тривалість життя людини досягне 150, ми зможемо досягти “швидкості втечі”, купуючи достатньо часу, щоб більшість тих, хто живий сьогодні, зможуть жити стільки, скільки захочуть, хоча, звичайно, немає гарантії, що це біологічно можливо.

Варто поглянути на цей список і подумати про те, наскільки іншим буде світ, якщо все це буде досягнуто через 7–12 років (що відповідало б агресивному графіку штучного інтелекту). Само собою зрозуміло, що це був би неймовірний гуманітарний тріумф, усунення відразу більшості лиха, які переслідували людство протягом тисячоліть. Багато моїх друзів і колег виховують дітей, і коли ці діти виростуть, я сподіваюся, що будь-яка згадка про хворобу буде звучати для них так, як цина, віспа або бубонна чума звучить для нас. Це покоління також отримає користь від підвищеної біологічної свободи та самовираження, і за щастю може також жити так довго, як вони захочуть.

Важко переоцінити, наскільки дивовижними будуть ці зміни для всіх, крім невеликої спільноти людей, які очікували потужного штучного інтелекту. Наприклад, тисячі економістів та експертів з питань політики в США в даний час обговорюють, як зберегти платоспроможність соціального забезпечення та медичної допомоги, і в більш широкому сенсі, як знизити витрати на охорону здоров’я (яка в основному споживається ті, хто старше 70 років, і особливо ті, хто має невиліковні захворювання, такі як рак).

Ситуація з цими програмами, ймовірно, радикально покращиться, якщо все це пройде20, оскільки співвідношення працездатного віку до пенсіонерського населення різко зміниться. Безсумнівно, ці виклики будуть замінені іншими, наприклад, як забезпечити широкий доступ до нових технологій, але варто подумати про те, наскільки зміниться світ, навіть якщо біологія є єдиною сферою, яка буде успішно прискорена штучним інтелектом.

2. Неврологія та розум

У попередньому розділі я зосередився на фізичних захворюваннях та біології в цілому, і не висвітлював неврологію чи психічне здоров’я. Але неврологія є піддисципліною біології, а психічне здоров’я так само важливо, як і фізичне здоров’я. Насправді, якщо що, психічне здоров’я впливає на добробут людини навіть більш безпосередньо, ніж фізичне здоров’я. Сотні мільйонів людей мають дуже низьку якість життя через такі проблеми, як залежність, депресія, шизофренія, низькофункціональний аутизм, ПТСР, психопатія21або інтелектуальні порушення. Ще мільярди борються з повсякденними проблемами, які часто можна інтерпретувати як набагато м’якші версії одного з цих важких клінічних розладів. І, як і у загальній біології, можливо, можна вийти за рамки вирішення проблем до покращення базової якості людського досвіду.

Основна основа, яку я виклав для біології, однаково застосовується до неврології. Поле просувається вперед невеликою кількістю відкриттів, часто пов’язаних з інструментами для вимірювання або точного втручання — у списку наведених вище оптогенетика була відкриттям нейронауки, а останнім часом CLARITY та розширювальна мікроскопія є досягненнями в тому ж дилі, на додаток до багатьох загальних методів клітинної біології, які безпосередньо переносять до неврології. Я думаю, що темпи цих досягнень будуть аналогічно прискорені штучним інтелектом, і тому рамки “100 років прогресу за 5–10 років” застосовуються до неврології так само, як і до біології, і з тих самих причин. Як і в біології, прогрес у неврології 20-го століття був величезним — наприклад, ми навіть не розуміли, як і чому нейрони стріляли до 1950-х років. Таким чином, здається розумним очікувати, що нейронаука, прискорена штучним інтелектом, досягне швидкого прогресу протягом декількох років.

Є одна річ, яку ми повинні додати до цієї основної картини, а саме те, що деякі речі, які ми дізналися (або вивчаємо) про сам ШІ за останні кілька років, ймовірно, допоможуть просунути неврологію, навіть якщо це продовжують робити лише люди. Інтерпретованість є очевидним прикладом: хоча біологічні нейрони поверхнево працюють зовсім інакше, ніж штучні нейрони (вони спілкуються через шипи і часто швидкості сплесків, тому в штучних нейронах відсутній елемент часу, і купа деталей, що стосуються фізіології клітин і нейромедіаторів, істотно змінює їх роботу), основне питання “як розподілені, навчені мережі простих одиниць, які виконують комбіновані лінійні/нелінійні операції, працюють разом для виконання важливих обчислень”, те саме, і я твердо підозрюю, що деталі комунікації окремих нейронів будуть абстраговані в більшості цікавих питань про обчислення і схеми22. Як лише один приклад цього, обчислювальний механізм, відкритий дослідниками інтерпретабельності в системах штучного інтелекту, нещодавно був знову відкритий у мозку мишей.

Набагато легше проводити експерименти на штучних нейронних мережах, ніж на реальних (останні часто вимагають врізання мозку тварин), тому інтерпретованість цілком може стати інструментом для покращення нашого розуміння нейронауки. Крім того, потужні ШІ самі, ймовірно, зможуть розробити та застосувати цей інструмент краще, ніж люди.

Окрім просто інтерпретованості, те, що ми дізналися від штучного інтелекту про те, як навчаються інтелектуальні системи, має (хоча я ще не впевнений, що це так) спричинити революцію в неврології. Коли я працював у галузі неврології, багато людей зосереджувалися на тому, що я зараз вважаю неправильними питаннями про навчання, тому що концепція масштабування гіпотези / гіркого уроку ще не існувала. Ідея про те, що проста об’єктивна функція плюс багато даних може керувати неймовірно складною поведінкою, робить більш цікавим розуміння об’єктивних функцій та архітектурних упереджень і менш цікавим для розуміння деталей нових обчислень. В останні роки я не стежив уважно за цією галуззю, але у мене є смутне відчуття, що обчислювальні нейробіологи все ще не повністю засвоїли урок. Моє ставлення до гіпотези масштабування завжди було “ага — це пояснення, на високому рівні, як працює інтелект і як він так легко розвивався”, але я не думаю, що це погляд середнього нейробіолога, частково тому, що гіпотеза масштабування як “секрет інтелекту” не повністю прийнята навіть в рамках штучного інтелекту.

Я думаю, що нейробіологи повинні намагатися поєднати це основне розуміння з особливостями людського мозку (біофізичні обмеження, еволюційна історія, топологія, деталі рухових та сенсорних входів/виходів), щоб спробувати з’ясувати деякі ключові головоломки нейронауки. Деякі, ймовірно, є, але я підозрюю, що цього ще недостатньо, і що нейробіологи ШІ зможуть більш ефективно використовувати цей кут для прискорення прогресу.

Я очікую, що ШІ прискорить нейронауковий прогрес за чотирма різними маршрутами, всі з яких, сподіваюся, можуть працювати разом, щоб вилікувати психічні захворювання та покращити функцію:

Традиційна молекулярна біологія, хімія та генетика. Це, по суті, та сама історія, що й загальна біологія в розділі 1, і ШІ, ймовірно, може прискорити її за допомогою тих самих механізмів. Існує багато препаратів, які модулюють нейромедіатори, щоб змінити функцію мозку, вплинути на пильність або сприйняття, змінити настрій тощо, і ШІ може допомогти нам винайти набагато більше. ШІ, ймовірно, також може прискорити дослідження генетичної основи психічних захворювань.
Дрібнозернисте нейронне вимірювання та втручання. Це здатність вимірювати, що роблять багато окремих нейронів або нейронних ланцюгів, і втручатися, щоб змінити свою поведінку. Оптогенетика та нейронні зонди — це технології, здатні як вимірювати, так і втручатися в живі організми, і ряд дуже передових методів (таких як молекулярні тикерні стрічки для зчитування схем стрільби великої кількості окремих нейронів) також були запропоновані і в принципі здаються можливими.
Удосконалена обчислювальна нейронаука. Як зазначалося вище, як конкретні ідеї, так і гештальт сучасного ШІ, ймовірно, можуть бути плідно застосовані до питань системної неврології, включаючи, можливо, розкриття реальних причин і динаміки складних захворювань, таких як психоз або розлади настрою.
Поведінкові втручання. Я не багато згадував про це, враховуючи фокус на біологічній стороні неврології, але психіатрія та психологія, звичайно, розробили широкий репертуар поведінкових втручань протягом 20-го століття; зрозуміло, що ШІ також може прискорити їх, як розробку нових методів, так і допомогти пацієнтам дотримуватися існуючих методів. У більш широкому сенсі ідея “тренера зі штучним інтелектом”, який завжди допомагає вам бути найкращою версією себе, який вивчає ваші взаємодії і допомагає вам навчитися бути більш ефективними, здається дуже багатообіцяючою.

Я припускаю, що ці чотири шляхи прогресу, що працюють разом, як і з фізичними захворюваннями, будуть на шляху до лікування або профілактики більшості психічних захворювань у найближчі 100 років, навіть якщо ШІ не буде задіяний — і, таким чином, можуть бути обґрунтовано завершені за 5–10 років, прискорених ШІ. Конкретно моя здогадка про те, що станеться, це щось на зразок:

Більшість психічних захворювань, ймовірно, можна вилікувати. Я не експерт з психіатричних захворювань (мій час у неврології витрачав на створення зондів для вивчення невеликих груп нейронів), але я припускаю, що такі захворювання, як ПТСР, депресія, шизофренія, залежність тощо, можна з’ясувати і дуже ефективно лікувати за допомогою певної комбінації чотирьох напрямків вище. Відповідь, ймовірно, буде деякою комбінацією “щось пішло не так біохімічно” (хоча це може бути дуже складним) і “щось пішло не так з нейронною мережею, на високому рівні”. Тобто, це питання системної неврології, хоча це не означає впливу поведінкових втручань, обговорених вище. Інструменти для вимірювання та втручання, особливо у живих людей, ймовірно, призведуть до швидкої ітерації та прогресу.
Умови, які є дуже “структурними”, можуть бути складнішими, але не неможливими. Є деякі докази того, що психопатія пов’язана з очевидними нейроанатомічними відмінностями — що деякі області мозку просто менші або менш розвинені у психопатів. Також вважається, що психопати з раннього віку не мають емпатії; що б не відрізнялося в їхньому мозку, це, мабуть, завжди було так. Те ж саме може стосуватися деяких інтелектуальних порушень і, можливо, інших станів. Реструктуризація мозку звучить важко, але це також здається завданням з високою віддачею інтелекту. Можливо, є якийсь спосіб вмовити дорослий мозок у більш ранній або більш пластичний стан, де його можна змінити. Я дуже не впевнений, наскільки це можливо, але мій інстинкт полягає в тому, щоб бути оптимістичним щодо того, що ШІ може винайти тут.
Ефективна генетична профілактика психічних захворювань здається можливою. Більшість психічних захворювань частково є скадковими, і загальногеномні асоціативні дослідження починають набирати обертів при виявленні відповідних факторів, яких часто багато. Ймовірно, можна буде запобігти більшості цих захворювань за допомогою скринінгу ембріонів, подібно до історії з фізичним захворюванням. Одна відмінність полягає в тому, що психіатричні захворювання, швидше за все, є полігенними (багато генів сприяють), тому через складність існує підвищений ризик несвідомого вибору проти позитивних рис, які корелюють із захворюванням. Однак, як не дивно, в останні роки дослідження GWAS, здається, свідчать про те, що ці кореляції, можливо, були перебільшені. У будь-якому випадку, нейронаука, прискорена штучним інтелектом, може допомогти нам розібратися в цих речах. Звичайно, скринінг ембріонів на складні риси викликає ряд суспільних проблем і буде суперечливим, хоча я б припустив, що більшість людей підтримають скринінг на важкі або виснажливі психічні захворювання.
Повсякденні проблеми, які ми не вважаємо клінічним захворюванням, також будуть вирішені. Більшість з нас мають повсякденні психологічні проблеми, які зазвичай не вважаються такими, що піднімаються до рівня клінічного захворювання. Деякі люди швидко зляться, інші мають проблеми з концентрацією уваги або часто сонливі, деякі бояться або тривожні, або погано реагують на зміни. Сьогодні вже існують препарати, які допомагають, наприклад, з пильністю або фокусом (кофеїн, модафініл, ріталін), але, як і в багатьох інших попередніх областях, можливо набагато більше. Ймовірно, існує набагато більше таких препаратів і не були відкриті, і також можуть бути абсолютно нові способи втручання, такі як цілеспрямована світлова стимуляція (див. оптогенетику вище) або магнітні поля. З огляду на те, скільки препаратів ми розробили в 20-му столітті, які налаштовують когнітивну функцію та емоційний стан, я дуже оптимістично налаштований щодо “стисненого 21-го”, де кожен може змусити свій мозок поводитися трохи краще і мати більш повноцінний повсякденний досвід.
Базовий досвід людини може бути набагато кращим. Роблючи ще один крок далі, багато людей пережили надзвичайні моменти одкровення, творчого натхнення, співчуття, виконання, трансцендентності, любові, краси або медитативного спокою. Характер і частота цих переживань сильно відрізняються від людини до людини і всередині однієї і тієї ж людини в різний час, а також іноді можуть бути викликані різними препаратами (хоча часто з побічними ефектами). Все це говорить про те, що “простір того, що можна пережити” дуже широкий, і що більша частина життя людей може складатися з цих надзвичайних моментів. Ймовірно, також можна покращити різні когнітивні функції по всій дошці. Це, мабуть, нейронаукова версія “біологічної свободи” або “розширеної тривалості життя”.

Однією з тем, яка часто з’являється в науково-фантастичних зображеннях ШІ, але яку я навмисно не обговорював тут, є “завантаження розуму”, ідея захоплення шаблону та динаміки людського мозку та їх створення в програмному забезпеченні. Ця тема може бути предметом есе сама по собі, але достатньо сказати, що, хоча я думаю, що завантаження майже напевно можливе в принципі, на практиці воно стикається зі значними технологічними та суспільними проблемами, навіть з потужним штучним інтелектом, що, ймовірно, ставить його за межі 5–10-річного вікна, яке ми обговорюємо.

Підсумовуючи, нейронаука, прискорена штучним інтелектом, ймовірно, значно покращить лікування або навіть вилікує більшість психічних захворювань, а також значно розширить “когнітивну та розумову свободу” та когнітивні та емоційні здібності людини. Це буде настільки ж радикально, як і поліпшення фізичного здоров’я, описане в попередньому розділі. Можливо, світ не буде помітно іншим зовні, але світ, який переживають люди, буде набагато кращим і гуманнішим місцем, а також місцем, яке пропонує більші можливості для самоактуалізації. Я також підозрюю, що поліпшення психічного здоров’я покращить багато інших суспільних проблем, включаючи ті, які здаються політичними або економічними.

3. Економічний розвиток і бідність

Попередні два розділи стосуються розробки нових технологій, які лікують хвороби та покращують якість людського життя. Однак очевидне питання, з гуманітарної точки зору, полягає в тому, що: “чи кожен матиме доступ до цих технологій?”

Одна справа — розробити ліки від хвороби, інша — викорінити хворобу зі світу. У більш широкому сенсі, багато існуючих медичних втручань ще не застосовувалися в усьому світі, і з цього приводу те ж саме стосується (нездорових) технологічних вдосконалень в цілому. Інший спосіб сказати це полягає в тому, що рівень життя в багатьох частинах світу все ще відчайдушно низький: ВВП на душу населення становить ~2000 доларів в Африці на південь від Сахари порівняно з ~75 000 доларів у Сполучених Штатах. Якщо ШІ ще більше збільшує економічне зростання та якість життя в розвиненому світі, роблячи мало, щоб допомогти світу, що розвивається, ми повинні розглядати це як жахливий моральний провал і ваду справжніх гуманітарних перемог у попередніх двох розділах. В ідеалі потужний ШІ повинен допомогти країнам, що розвиваються, наздогнати розвинений світ, навіть якщо він революціонізує останній.

Я не так впевнений, що ШІ може вирішити проблему нерівності та економічного зростання, як я, що він може винайти фундаментальні технології, тому що технологія має таку очевидну високу віддачу від інтелекту (включаючи здатність обходити складності та відсутність даних), тоді як економіка включає в себе багато обмежень з боку людей, а також велику дозу внутрішньої складності. Я дещо скептично налаштований на те, що ШІ може вирішити знамениту “соціалістичну проблему розрахунків”, і я не думаю, що уряди перекинуть (або повинні) передають свою економічну політику такому суб’єкту, навіть якщо б він міг це зробити. Існують також проблеми, такі як те, як переконати людей приймати ефективні методи лікування, які є ефективними, але до яких вони можуть бути підозрілими.

Виклики, що стоять перед країнами, що розвиваються, ще більше ускладнюються повсюдною корупцією як у приватному, так і в державному секторах. Корупція створює порочне коло: вона посилює бідність, а бідність, у свою чергу, породжує ще більше корупції. Плани економічного розвитку, керовані штучним інтелектом, повинні рахуватися з корупцією, слабкими інститутами та іншими дуже людськими проблемами.

Тим не менш, я бачу вагомі причини для оптимізму. Хвороби були викорінені, і багато країн перейшли від бідних до багатих, і зрозуміло, що рішення, пов’язані з цими завданнями, демонструють високу віддачу до інтелекту (незважаючи на людські обмеження та складність). Тому ШІ, ймовірно, може зробити їх краще, ніж вони робляться зараз. Також можуть бути цілеспрямовані втручання, які обійдуть людські обмеження і на яких ШІ може зосередитися. Що ще важливіше, ми повинні спробувати. І компаніям зі штучним інтелектом, і політикам, що розвивається, повинні будуть зробити свою частину, щоб світ, що розвивається, не залишився остороною; моральний імператив занадто великий. Тому в цьому розділі я продовжу робити оптимістичний аргумент, але скрізь майте на увазі, що успіх не гарантований і залежить від наших колективних зусиль.

Нижче я роблю кілька припущень про те, як, на мою думку, все може розвиватися в країнах, що розвиваються, протягом 5–10 років після розробки потужного штучного інтелекту:

Розподіл медичних втручань. Область, де я, мабуть, найбільш оптимістичний, поширює медичні заходи по всьому світу. Хвороби фактично були викорінені кампаніями зверху вниз: віспа була повністю ліквідована в 1970-х роках, а поліомієліт і гвінейський черв’як майже викорінені менш ніж 100 випадків на рік.Математично складне епідеміологічне моделювання відіграє активну роль у кампаніях з викорінення захворювань, і здається дуже ймовірним, що є місце для більш розумних за людей систем штучного інтелекту, щоб зробити цю роботу краще, ніж люди. Логістика розподілу, ймовірно, також може бути значно оптимізована. Одна річ, яку я дізнався як ранній донор GiveWell, це те, що деякі благодійні організації охорони здоров’я набагато ефективніші за інші; є надія, що зусилля, прискорені штучним інтелектом, будуть ще більш ефективними. Крім того, деякі біологічні досягнення насправді значно полегшують логістику розповсюдження: наприклад, малярію важко викорінити, оскільки вона вимагає лікування кожного разу, коли хвороба захворює; вакцина, яку потрібно вводити лише один раз, значно спрощує логістику (і такі вакцини від малярії насправді розробляються в даний час). Можливі ще простіші механізми розподілу: деякі хвороби в принципі можна викорінити, націлившись на їх носіїв тварин, наприклад, випустивши комарів, заражених бактерією, яка блокує їх здатність переносити хворобу (яка потім заражає всіх інших комарів) або просто використовуючи генні драйви, щоб знищити комарів. Для цього потрібна одна або кілька централізованих дій, а не скоординована кампанія, яка повинна індивідуально ставитися до мільйонів. Загалом, я думаю, що 5–10 років — це розумний графік для хорошої частки (можливо, 50%) переваг для здоров’я, керованих штучним інтелектом, для поширення навіть найбідніших країн світу. Хороша мета може полягати в тому, щоб світ, що розвивається, через 5–10 років після того, як потужний ШІ був принаймні значно здоровішим, ніж розвинений світ сьогодні, навіть якщо він продовжує відставати від розвиненого світу. Досягнення цього, звичайно, вимагає величезних зусиль у сфері глобального здоров’я, філантропії, політичної адвокації та багатьох інших зусиль, в яких повинні допомогти як розробники штучного інтелекту, так і політики.
Економічне зростання. Чи можуть країни, що розвиваються, швидко наздогнати розвинений світ не лише у сфері охорони здоров’я, але й економічно? Для цього є певний прецедент: в останні десятиліття 20-го століття кілька економік Східної Азії досягли стійких темпів зростання ~10% річних реальних ВВП, що дозволило їм наздогнати розвинений світ. Людські економічні планувальники прийняли рішення, які призвели до цього успіху, не шляхом прямого контролю над цілими економіками, а шляхом витягування кількох ключових важелів (наприклад, промислової політики зростання, керованого експортом, і опору спокусі покладатися на багатство природних ресурсів); правдоподібно, що “міністри фінансів ШІ та центральні банкіри” могли б повторити або перевищити це досягнення на 10%. Важливе питання полягає в тому, як змусити уряди країн, що розвиваються, прийняти їх, дотримуючись принципу самовизначення — деякі можуть бути захоплені цим, але інші, ймовірно, будуть скептично налаштовані. З оптимістичної сторони, багато втручань у охорону здоров’я в попередньому пункті, ймовірно, органічно збільшать економічне зростання: викорінення СНІДу/малярії/паразитарних черв’яків матиме трансформаційний вплив на продуктивність, не кажучи вже про економічні переваги, які деякі нейронаукові втручання (наприклад, поліпшення настрою та зосередженості) матимуть як у розвинених країнах, так і в країнах, що розвиваються. Нарешті, нездорові технології, прискорені штучним інтелектом (такі як енергетичні технології, транспортні дрони, вдосконалені будівельні матеріали, краща логістика та розподіл тощо) можуть просто проникнути у світ природним шляхом; наприклад, навіть мобільні телефони швидко проникли в Африку на південь від Сахари через ринкові механізми, не потребуючи благодійних зусиль. З більш негативного боку, хоча ШІ та автоматизація мають багато потенційних переваг, вони також створюють проблеми для економічного розвитку, особливо для країн, які ще не промислово розвинені. Пошук способів забезпечити, щоб ці країни все ще могли розвивати та покращувати свою економіку в епоху зростаючої автоматизації, є важливою проблемою для економістів та політиків. Загалом, сценарій мрії — можливо, мета, до якої слід прагнути — буде 20% щорічним темпом зростання ВВП у країнах, що розвиваються, причому 10% кожен з яких походить від економічних рішень з підтримкою штучного інтелекту та природного поширення технологій, прискорених штучним інтелектом, включаючи, але не обмежуючись, здоров’я. Якщо це буде досягнуто, це призведе до того, що Африка на південь від Сахари досягне поточного ВВП Китаю на душу населення за 5–10 років, одночасно підвищуючи більшу частину решти світу, що розвивається, до рівнів, вищих за поточний ВВП США. Знову ж таки, це сценарій мрії, а не те, що відбувається за замовчуванням: це те, що ми всі повинні працювати разом, щоб зробити більш ймовірним.
Продовольча безпека. Досягнення в технології вирощування сільськогосподарських культур, такі як кращі добрива та пестициди, більша автоматизація та більш ефективне землекористування, різко збільшили врожайність протягом 20-го століття, рятуючи мільйони людей від голоду. Генна інженерія в даний час ще більше покращує багато сільськогосподарських культур. Пошук ще більшої кількості способів зробити це, а також зробити сільськогосподарські ланцюги поставок ще більш ефективними, може дати нам другу зелену революцію, керовану штучним інтелектом, допомагаючи закрити розрив між країнами, що розвиваються, і розвиненими світами.
Пом’якшення зміни клімату. Зміна клімату буде відчуватися набагато сильніше в країнах, що розвиваються, перешкоджаючи її розвитку. Ми можемо очікувати, що ШІ призведе до вдосконалення технологій, які уповільнюють або запобігають зміні клімату, від атмосферного видалення вуглецю та технології чистої енергії до лабораторно вирощеного м’яса, що зменшує нашу залежність від вуглецево-інтенсивного фабричного землеробства. Звичайно, як обговорювалося вище, технології — це не єдине, що обмежує прогрес у зміні клімату — як і у всіх інших питаннях, що обговорюються в цьому есе, важливі людські суспільні фактори. Але є вагомі підстави вважати, що дослідження, посилені штучним інтелектом, дадуть нам засоби, щоб зробити пом’якшення наслідків зміни клімату набагато менш дорогим і руйнівним, роблячи багато заперечень спірними і звільняючи країни, що розвиваються, для більшого економічного прогресу.
Нерівність всередині країн. Я в основному говорив про нерівність як про глобальне явище (що, на мою думку, є його найважливішим проявом), але, звичайно, нерівність також існує в країнах. З передовими втручаннями в охорону здоров’я та особливо радикальним збільшенням тривалості життя або препаратів для покращення когнітивних функцій, безумовно, будуть обґрунтовані побоювання, що ці технології “лише для багатих”. Я більш оптимістично налаштований щодо нерівності всередині країни, особливо в розвиненому світі, з двох причин. По-перше, ринки краще функціонують у розвиненому світі, і ринки, як правило, добре знижують вартість цінних технологій з часом25. По-друге, розвинені світові політичні інститути більш чуйні до своїх громадян і мають більшу державну здатність виконувати програми загального доступу — і я очікую, що громадяни вимагатимуть доступу до технологій, які так радикально покращують якість життя. Звичайно, не заздалегідь визначено, що такі вимоги досягають успіху — і ось ще одне місце, де ми колективно повинні зробити все все що можемо, щоб забезпечити справедливе суспільство. Існує окрема проблема нерівності багатства (на відміну від нерівності доступу до технологій, що рятують життя та покращують життя), яка здається складнішою і яку я обговорюю в розділі 5.
Проблема відмови. Однією з проблем як у розвиненому світі, так і в країнах, що розвиваються, є те, що люди відмовляються від переваг з підтримкою штучного інтелекту (подібно до антивакцинного руху або луддитських рухів загалом). Можуть в кінцевому підсумку бути погані цикли зворотного зв’язку, коли, наприклад, люди, які найменше здатні приймати правильні рішення, відмовляються від тих самих технологій, які покращують їхні здібності до прийняття рішень, що призводить до постійно зростаючого розриву і навіть створення антиутопічного нижчого класу (деякі дослідники стверджували, що це підірве демократію, тему, яку я обговорюю далі в наступному розділі). Це знову покладе моральну ваку на позитивні досягнення ШІ. Це складна проблема для вирішення, оскільки я не думаю, що етично нормально примушувати людей, але ми можемо принаймні спробувати покращити наукове розуміння людей — і, можливо, сам ШІ може допомогти нам у цьому. Одним з обнадійливих ознак є те, що історично антитехнологічні рухи були більше гавкотом, ніж укусами: рейки проти сучасних технологій популярні, але більшість людей приймають їх врешті-решт, принаймні, коли це питання індивідуального вибору. Люди, як правило, приймають більшість технологій охорони здоров’я та споживання, тоді як технології, які дійсно ускладнюються, такі як ядерна енергетика, як правило, є колективними політичними рішеннями.

Загалом, я оптимістично налаштований щодо швидкого донесення біологічних досягнень ШІ до людей у країнах, що розвиваються. Я сподіваюся, хоча і не впевнений, що ШІ також може забезпечити безпрецедентні темпи економічного зростання і дозволити світу, що розвивається, принаймні перевершити той, де зараз розвинений світ. Я стурбований проблемою “відмови” як у розвинених країнах, так і в країнах, що розвиваються, але підозрюю, що з часом вона зникне, і що штучний інтелект може допомогти прискорити цей процес. Це не буде ідеальний світ, і ті, хто відстає, не наздоженуть повністю, принаймні, не в перші кілька років. Але з сильними зусиллями з нашого боку ми можемо рухатися в правильному напрямку — і швидко. Якщо ми це зробимо, ми зможемо зробити принаймні початковий внесок за обіцянки гідності та рівності, які ми зобов’язані кожній людині на землі.

4. Мир та управління

Припустимо, що все в перших трьох розділах йде добре: хвороби, бідність та нерівність значно скорочуються, а базовий рівень людського досвіду значно підвищується. З цього не випливає, що всі основні причини людських страждань вирішені. Люди все ще становлять загрозу один одному. Хоча існує тенденція технологічного вдосконалення та економічного розвитку, що веде до демократії та миру, це дуже вільна тенденція, з частими (і недавніми) відступами. На зорі 20-го століття люди думали, що вони відклали війну позаду; потім настали дві світові війни. Тридцять років тому Френсіс Фукуяма писав про “кінець історії” та остаточний тріумф ліберальної демократії; цього ще не сталося.

Двадцять років тому американські політики вважали, що вільна торгівля з Китаєм призведе до його лібералізації, коли він стане багатшим; цього не сталося, і тепер ми, здається, прямуємо до другої холодної війни з авторитарним блоком, що відновлюється. І правдоподібні теорії припускають, що інтернет-технології насправді можуть переважати авторитаризм, а не демократію, як вважалося спочатку (наприклад, у період “арабської весни”). Здається, важливо спробувати зрозуміти, наскільки потужний ШІ буде перетинатися з цими питаннями миру, демократії та свободи.

На жаль, я не бачу вагомих підстав вважати, що ШІ переважно або структурно сприятиме демократії та миру, так само, як я думаю, що він структурно сприятиме здоров’ю людини та полегшить бідність. Людський конфлікт є змагальним, і ШІ в принципі може допомогти як “хорошим хлопцям”, так і “поганим хлопцям”. Якщо що, деякі структурні фактори здаються тривожними: ШІ, ймовірно, дозволить набагато краще пропагувати та спостерігати, як основні інструменти в інструментарію автократа. Тому ми, як окремі суб’єкти, повинні нахилити речі в правильному напрямку: якщо ми хочемо, щоб ШІ сприяв демократії та індивідуальним правам, нам доведеться боротися за цей результат. Я відчуваю це ще сильніше, ніж міжнародну нерівність: тріумф ліберальної демократії та політичної стабільності не гарантовані, можливо, навіть не ймовірні, і вимагатимуть великих жертв та прихильності з усіх наших сторін, як це часто було в минулому.

Я думаю, що це питання має дві частини: міжнародний конфлікт та внутрішня структура націй. З міжнародної сторони здається дуже важливим, щоб демократії мали перевагу на світовій арені, коли створюється потужний ШІ. Авторитаризм, що працює на основі штучного інтелекту, здається занадто страшним для споглядання, тому демократії повинні мати можливість встановлювати умови, за допомогою яких потужний ШІ приноситься у світ, як для того, щоб уникнути повалу авторитарних, так і для запобігання порушенням прав людини в авторитарних країнах.

Моя поточна здогадка про найкращий спосіб зробити це — це “стратегія антанти”, в якій коаліція демократій прагне отримати чітку перевагу (навіть лише тимчасову) на потужному ШІ, захищаючи свій ланцюг поставок, швидко масштабуючи та блокуючи або затримуючи доступ супротивників до ключових ресурсів, таких як чіпи та напівпровідникове обладнання. Ця коаліція, з одного боку, використовуватиме ШІ для досягнення надійної військової переваги (палиці), одночасно пропонуючи розподіляти переваги потужного ШІ (моркви) на все більш широку і ширшу групу країн в обмін на підтримку стратегії коаліції щодо просування демократії (це було б трохи аналогічно “Атомам за мир”). Коаліція мала на меті отримати підтримку все більшої кількості людей у світі, ізолюючи наших найгірших супротивників і врешті-решт поставивши їх у положення, коли їм краще взяти на себе ту ж угоду, що і решта світу: відмовитися від конкуренції з демократіями, щоб отримати всі переваги, а не боротися з вищим ворогом.

Якщо ми зможемо зробити все це, у нас буде світ, в якому демократії лідирують на світовій арені і мають економічну та військову силу, щоб уникнути підриву, завоювання або саботизації автократіями, і, можливо, зможуть перетворити свою перевагу ШІ на тривалу перевагу. Це може оптимістично призвести до “вічного 1991 року” — світу, де демократії мають перевагу, а мрії Фукуями реалізуються. Знову ж таки, цього буде дуже важко досягти, і, зокрема, вимагатиме тісної співпраці між приватними компаніями зі штучним інтелектом та демократичними урядами, а також надзвичайно мудрих рішень щодо балансу між морквою та палицею.

Навіть якщо все піде добре, це залишає питання про боротьбу між демократією та самодержавством у кожній країні. Очевидно, важко передбачити, що тут станеться, але у мене є певний оптимізм, що, враховуючи глобальне середовище, в якому демократії контролюють найпотужніший ШІ, то ШІ може фактично структурно сприяти демократії скрізь. Зокрема, у цьому середовищі демократичні уряди можуть використовувати свій чудовий ШІ, щоб виграти інформаційну війну: вони можуть протистояти впливу та пропагандистським операціям автократій і навіть можуть створити глобально вільне інформаційне середовище, надаючи канали інформації та послуги штучного інтелекту таким чином, що автократіям не вистачає технічної здатності блокувати або контролювати. Ймовірно, немає необхідності доставляти пропаганду, лише для протидії зловмисним атакам та розблокування вільного потоку інформації. Хоча це і не негайно, такі рівні умови, як це, мають хороші шанси поступово схилити глобальне управління до демократії з кількох причин.

По-перше, підвищення якості життя в розділах 1–3 має, однаково, сприяти демократії: історично вони мають, принаймні певною мірою. Зокрема, я очікую, що поліпшення психічного здоров’я, добробуту та освіти зміцнить демократію, оскільки всі три негативно корелюють з підтримкою авторитарних лідерів. Загалом, люди хочуть більше самовираження, коли задовольняються їхні інші потреби, а демократія — це, серед іншого, форма самовираження. І навпаки, авторитаризм процвітає на страху та обуренні.

По-друге, є велика ймовірність, що вільна інформація дійсно підриває авторитаризм, поки авторитари не можуть її цензурувати. А ШІ без цензури також може надати людям потужні інструменти для підриву репресивних урядів. Репресивні уряди виживають, відмовляючи людям у певному виді загальних знань, не утримуючи їх від усвідомлення того, що “імператор не має одягу”. Наприклад, Срджа Попович, який допоміг повалити уряд Мілошевича в Сербії, багато писав про методи психологічного пограбування авторитарних влади, для порушення заклинання та згуртування підтримки проти диктатора. Надлюдсько ефективна версія Поповича зі штучним інтелектом (чиї навички, здається, мають високу віддачу від інтелекту) у кишені кожного, яку диктатори безсилі блокувати або цензурувати, може створити вітер у спинах дисидентів та реформаторів по всьому світу. Ще раз кажучи, це буде довгий і затяжний бій, де перемога не гарантована, але якщо ми розробимо і побудуємо ШІ правильно, це може бути принаймні бій, де прихильники свободи всюди мають перевагу.

Як і у випадку з неврологією та біологією, ми також можемо запитати, як все може бути “кращим, ніж зазвичай” — не тільки як уникнути автократії, але й як зробити демократії кращими, ніж вони є сьогодні. Навіть у демократичних державах несправедливість відбувається постійно. Суспільства верховенства права обіцяють своїм громадянам, що всі будуть рівними перед законом, і кожен має право на основні права людини, але, очевидно, люди не завжди отримують ці права на практиці. Те, що ця обіцянка навіть частково виконана, робить це чимось, чим можна пишатися, але чи може ШІ допомогти нам зробити краще?

Наприклад, чи може ШІ покращити нашу правову та судову систему, роблячи рішення та процеси більш неупередженими? Сьогодні люди в основному стурбовані в юридичному або судовому контексті, що системи штучного інтелекту будуть причиною дискримінації, і ці проблеми важливі і від них потребують захисту. У той же час життєздатність демократії залежить від використання нових технологій для вдосконалення демократичних інститутів, а не лише від реагування на ризики. По-справжньому зріле та успішне впровадження штучного інтелекту має потенціал зменшити упередження та бути більш справедливим для всіх.

Протягом століть правові системи стикалися з дилемою, що закон прагне бути неупередженим, але за своєю суттю є суб’єктивним і, таким чином, повинен інтерпретуватися упередженими людьми. Спроба зробити закон повністю механічним не спрацювала, тому що реальний світ безладний і не завжди може бути відображений математичними формулами. Замість цього правові системи покладаються на горезвісно неточні критерії, такі як “жорстоке та незвичайне покарання” або “абсолютно без викупу соціальної важливості”, які люди потім інтерпретують — і часто роблять це таким чином, щоб демонструвати упередженість, фаворитизм або свавілля. “Розумні контракти” в криптовалютах не зробили революцію в законі, тому що звичайний кодекс недостатньо розумний, щоб вирішувати стільки інтересів. Але ШІ може бути досить розумним для цього: це перша технологія, здатна робити широкі, нечіткі судження повторюваним і механічним способом.

Я не пропоную, щоб ми буквально замінили суддів системами штучного інтелекту, але поєднання неупередженості зі здатністю розуміти та обробляти безладні, реальні ситуації здається, що воно повинно мати серйозні позитивні застосування до закону та правосуддя. Принаймні, такі системи могли б працювати разом з людьми як допомога у прийнятті рішень. Прозорість була б важливою в будь-якій такій системі, і зріла наука про штучний інтелект могла б забезпечити її: процес навчання для таких систем міг би бути широко вивчений, а передові методи інтерпретації можуть бути використані, щоб побачити всередині остаточної моделі та оцінити її на приховані упередження, таким чином, що це просто неможливо з людьми. Такі інструменти штучного інтелекту також можуть бути використані для моніторингу порушень основних прав у судовому або поліцейському контексті, що робить конституції більш самовиконуваними.

У тому ж дусі ШІ може бути використаний як для об’єднання думок, так і для досягнення консенсусу серед громадян, вирішення конфліктів, пошуку точки дотину та пошуку компромісу. Деякі ранні ідеї в цьому напрямку були реалізовані проектом обчислювальної демократії, включаючи співпрацю з Anthropic. Більш поінформовані та вдумливі громадяни, очевидно, зміцнили б демократичні інститути.

Існує також чітка можливість використання штучного інтелекту для надання державних послуг, таких як пільги на охорону здоров’я або соціальні послуги, які в принципі доступні кожному, але на практиці часто сильно не вистачає, і в деяких місцях вони гірші, ніж в інших. Сюди входять медичні послуги, DMV, податки, соціальне забезпечення, виконання будівельного кодексу тощо. Наявність дуже вдумливого та поінформованого ШІ, чия робота полягає в тому, щоб дати вам все, на що ви маєте законне право від уряду таким чином, щоб ви могли зрозуміти — і який також допомагає вам дотримуватися часто заплутаних урядових правил — було б великою справою. Збільшення державного потенціалу як допомагає виконати обіцянку рівності перед законом, так і посилює повагу до демократичного управління. Погано реалізовані послуги в даний час є основним рушієм цинізму щодо уряду27.

Все це дещо розпливчасті ідеї, і, як я сказав на початку цього розділу, я не настільки впевнений у їх доцільності, як у досягненнях у біології, неврології та боротьбі з бідністю. Вони можуть бути нереалістично утопічними. Але важливо мати амбітне бачення, бути готовим мріяти по-крупному і спробувати щось. Бачення ШІ як гаранта свободи, індивідуальних прав та рівності перед законом є занадто потужним баченням, щоб не боротися за нього. У 21 столітті, держава з підтримкою штучного інтелекту, може бути як сильнішим захисником індивідуальної свободи, так і маяком надії, яка допомагає зробити ліберальну демократію формою правління, яку хоче прийняти весь світ.

5. Робота та значення

Навіть якщо все в попередніх чотирьох розділах йде добре — ми не тільки полегшуємо хвороби, бідність і нерівність, але ліберальна демократія стає домінуючою формою правління, а існуючі ліберальні демократії стають кращими версіями самих себе — принаймні одне важливе питання все ще залишається. “Чудово, що ми живемо в такому технологічно розвиненому світі, а також у справедливому і пристойному світі, — хтось може заперечити, — але з ШІ, який робить все, як люди матимуть сенс? З цього приводу, як вони виживуть економічно?”.

Я думаю, що це питання складніше, ніж інші. Я не маю на увазі, що я обов’язково більш песимістичний щодо цього, ніж щодо інших питань (хоча я бачу проблеми). Я маю на увазі, що це більш нечітко і важче передбачити заздалегідь, тому що це стосується макроскопічних питань про те, як організовано суспільство, які, як правило, вирішуються лише з часом і децентралізовано. Наприклад, історичні товариства мисливців-збирачів могли уявити, що життя безглузде без полювання та різних видів релігійних ритуалів, пов’язаних з полюванням, і могли б уявити, що наше добре нагодоване технологічне суспільство позбавлене мети. Вони також, можливо, не розуміли, як наша економіка може забезпечити всіх, або яку функцію люди можуть з користю виконувати в механізованому суспільстві.

Тим не менш, варто сказати хоча б кілька слів, маючи на увазі, що стислість цього розділу зовсім не слід сприймати як ознаку того, що я не сприймаю ці питання серйозно — навпаки, це ознака відсутності чітких відповідей.

Щодо питання значення, я думаю, що дуже ймовірно, це помилка вважати, що завдання, які ви виконуєте, безглузді просто тому, що ШІ міг би виконувати їх краще. Більшість людей ні в чому не найкращі у світі, і це, здається, їх особливо не турбує. Звичайно, сьогодні вони все ще можуть робити свій внесок через порівняльну перевагу і можуть мати сенс з економічної цінності, яку вони виробляють, але люди також дуже насолоджуються діяльністю, яка не виробляє економічної цінності. Я проводжу багато часу, граючи у відеоігри, плаваючи, гуляючи на вулиці та спілкуючись з друзями, і все це створює нульову економічну цінність. Я міг би провести день, намагаючись покращити відеоігри, або швидше піднятися на велосипеді на гору, і для мене насправді не має значення, що хтось десь набагато кращий у цих речах.

У будь-якому випадку, я думаю, що сенс походить в основному від людських відносин і зв’язків, а не від економічної праці. Люди дійсно хочуть почуття досягнення, навіть почуття конкуренції, і в світі після штучного інтелекту цілком можна буде провести роки, намагаючись якесь дуже складне завдання зі складною стратегією, подібно до того, що люди роблять сьогодні, коли вони приступають до дослідницьких проектів, намагаються стати голлівудськими акторами або знайшли компанії28. Факти про те, що (а) штучний інтелект десь міг би в принципі краще виконувати це завдання, і (б) це завдання більше не є економічно винагородженим елементом світової економіки, мені здається, не дуже важливо.

Економічна частина насправді здається мені складнішою, ніж значуща частина. Під “економічним” у цьому розділі я маю на увазі можливу проблему, що більшість або всі люди, можливо, не зможуть суттєво сприяти достатньо розвиненій економіці, керованій штучним інтелектом. Це більш макропроблема, ніж окрема проблема нерівності, особливо нерівності в доступі до нових технологій, яку я обговорював у розділі 3.

Перш за все, в короткостроковій перспективі я згоден з аргументами, що порівняльна перевага продовжуватиме підтримувати актуальність людей і фактично підвищуватиме їх продуктивність, і навіть може певним чином вирівняти ігрове поле між людьми. Поки ШІ краще лише на 90% даної роботи, інші 10% призведуть до того, що люди стануть висококредитними, збільшуючи компенсацію і фактично створюючи купу нових робочих місць, доповнюючи та посилюючи те, у чому хороший ШІ, таким чином, що “10%” розширюються, щоб продовжувати працевлаштувати майже всіх. Насправді, навіть якщо ШІ може робити на 100% речей краще, ніж люди, але він залишається неефективним або дорогим у деяких завданнях, або якщо ресурси для людей та ШІ значно відрізняються, то логіка порівняльної переваги продовжує застосовуватися. Однією з областей, яка люди, ймовірно, збереже відносну (або навіть абсолютну) перевагу протягом значного часу, є фізичний світ. Таким чином, я думаю, що людська економіка може продовжувати мати сенс навіть трохи після того моменту, коли ми досягнемо “країни геніїв у центрі обробки даних”.

Однак я думаю, що в довгостроковій перспективі ШІ стане настільки широко ефективним і таким дешевим, що це більше не застосовуватиметься. У цей момент наша нинішня економічна установка більше не матиме сенсу, і буде потреба в більш широкій суспільній розмові про те, як повинна бути організована економіка.

Хоча це може здатися божевільним, справа в тому, що цивілізація успішно пройшла через великі економічні зрушення в минулому: від мисливців-збору до землеробства, від сільського господарства до феодалізму, від феодалізму до індустріалізму. Я підозрюю, що знадобиться якась нова і дивна річ, і що це те, що ніхто сьогодні не зробив хорошої роботи. Це може бути так само просто, як великий універсальний базовий дохід для всіх, хоча я підозрюю, що це буде лише невеликою частиною рішення. Це може бути капіталістична економіка систем штучного інтелекту, які потім видають ресурси (величезні їх кількості, оскільки загальний економічний пиріг буде гігантським) людям на основі деякої вторинної економіки того, що, на думку систем штучного інтелекту, має сенс винагороджувати людей (на основі деякого судження, в кінцевому підсумку отриманого з людських цінностей).

Можливо, економіка працює на точках Whuffie. Або, можливо, люди все-таки продовжать бути економічно цінними, як це якимось чином не передбачалося звичайними економічними моделями. Всі ці рішення мають безліч можливих проблем, і неможливо знати, чи матимуть вони сенс без великої кількості ітерацій та експериментів. І, як і з деякими іншими викликами, нам, ймовірно, доведеться боротися, щоб отримати хороший результат тут: експлуататорські або антиутопічні напрямки, очевидно, також можливі і їх потрібно запобігти. Про ці питання можна було б написати набагато більше, і я сподіваюся зробити це пізніше.

Підведення підсумків

За допомогою різноманітних тем вище я спробував викласти бачення світу, яке є одночасно правдоподібним, якщо все йде правильно зі штучним інтелектом, і набагато кращим, ніж світ сьогодні. Я не знаю, чи є цей світ реалістичним, і навіть якщо це так, він не буде досягнутий без величезних зусиль і боротьби багатьох хоробрих і відданих людей. Всі (включаючи компанії зі штучним інтелектом!) потрібно буде зробити свою частину як для запобігання ризикам, так і для повного усвідомлення переваг.

Але це світ, за який варто боротися. Якщо все це дійсно відбувається протягом 5–10 років — поразка більшості хвороб, зростання біологічної та когнітивної свободи, виведення мільярдів людей з бідності, щоб поділитися новими технологіями, відродження ліберальної демократії та прав людини — я підозрюю, що кожен, хто дивиться, буде здивований впливом, який це має на них. Я не маю на увазі досвід особистої вигоди від усіх нових технологій, хоча це, безумовно, буде дивовижно. Я маю на увазі досвід спостереження за тим, як давній набір ідеалів матеріалізується перед усіма нами одночасно. Я думаю, що багато хто буде буквально зворушений цим до сліз.

Під час написання цього есе я помітив цікаву напругу. У певному сенсі бачення, викладене тут, є надзвичайно радикальним: це не те, що майже ніхто очікує, що станеться в наступному десятилітті, і, ймовірно, вразить багатьох як абсурдну фантазію. Деякі можуть навіть не вважати це бажаним; це втілює цінності та політичний вибір, з якими не всі погодяться. Але в той же час в цьому є щось сліпуче очевидне — щось надмірно визначене — ніби багато різних спроб уявити собі хороший світ неминуче ведуть приблизно сюди.

В Іен М. Бенкс “Гравець ігор”, головний герой — член суспільства під назвою Культура, яке базується на принципах, не схожих на ті, які я тут виклав — подорожує до репресивної, мілітаристської імперії, в якій лідерство визначається конкуренцією в складній бойовій грі. Гра, однак, досить складна, щоб стратегія гравця в ній, як правило, відображала його власний політичний та філософський світогляд. Головний герой вдається перемогти імператора в грі, показуючи, що його цінності (цінності культури) є виграшною стратегією навіть у грі, розробленій суспільством, заснованим на безжальній конкуренції та виживанні найбільш пристосованих. Відомий пост Скотта Олександра має таку ж тезу — що конкуренція є самознищеною і, як правило, призводить до суспільства, заснованого на співчутті та співпраці. “Дуга морального всесвіту” — це ще одна схожа концепція.

Я думаю, що цінності культури є виграшною стратегією, тому що вони є сумою мільйона невеликих рішень, які мають чітку моральну силу і які, як правило, об’єднують всіх на одну сторону. З основними людськими інтуїціями справедливості, співпраці, цікавості та автономії важко сперечатися, і вони накопичуються таким чином, що наші більш руйнівні імпульси часто не є. Легко стверджувати, що діти не повинні вмирати від хвороб, якщо ми можемо запобігти цьому, і легко стверджувати, що всі діти заслуговують на це право однаково.Звідти неважко стверджувати, що ми всі повинні об’єднатися і застосувати свій інтелект для досягнення цього результату. Мало хто не згоден з тим, що людей слід карати за те, що вони нападають або завдають шкоди іншим без потреби, і звідти це не великий стрибок до ідеї, що покарання повинні бути послідовними та систематичними для людей.

Так само інтуїтивно зрозуміло, що люди повинні мати автономію та відповідальність за власне життя та вибір. Ці прості інтуїції, якщо їх прийняти до логічного висновку, в кінцевому підсумку призводять до верховенства права, демократії та цінностей Просвітництва. Якщо не неминуче, то принаймні як статистична тенденція, саме сюди вже прямувало людство. ШІ просто пропонує можливість доставити нас туди швидше — зробити логіку більш яскравою, а призначення більш зрозумілим. Тим не менш, це річ трансцендентної краси. У нас є можливість зіграти невелику роль у тому, щоб зробити це реальним.

Переклад – Денис СЕМЕНОВ, політичний філософ

Оригінал тут

Джерело тут

МАШИНИ ЛЮБЛЯЧОЇ БЛАГОДАТІ

Даріо Амодей

Як ШІ може змінити світ на краще

Основні припущення та структура

1. Біологія та здоров’я

2. Неврологія та розум

3. Економічний розвиток і бідність

4. Мир та управління

5. Робота та значення

Підведення підсумків

НАПИСАТИ ВІДПОВІДЬ скасувати відповідь

“НАМ НЕ НУЖНЫ ЛИЧНЫЕ СИМПАТИИ ТРАМПА, НАМ НУЖНО ОРУЖИЕ”

Що несе «Мінвєтєр»?…

ЯК ТРАМП ЗМІНИТЬ СВІТ

Констянтин МАШОВЕЦЬ: ОГЛЯД СИТУАЦІЇ НА ФРОНТІ. ВРЕМІЇВСЬКИЙ ТА ПОКРОВСЬКИЙ НАПРЯМОК (6 січня 2025)

НАВІТЬ ВСІ НОВИНИ

КОН’ЮНКТУРА І РЕВОЛЮЦІЯ

“ЗАМОРОЗКА” ПРИДНІСТРОВ’Я ТА ВИБОРИ В МОЛДОВІ

Констянтин МАШОВЕЦЬ: ОГЛЯД СИТУАЦІЇ НА ФРОНТІ. 15 січня 2025

ПОПУЛЯРНА КАТЕГОРІЯ