Усмішка вашої доньки вам дорожча, ніж усмішка незнайомця на іншому кінці світу. І це природно. Людське життя – це конкретне місце, втілена реальність, такими ж є наші обов’язки й любов. Але ідеологія, що панує в середовищі кремнієвої еліти, вважає цю прихильність до близьких еволюційною хибою. Бо, згідно з цим світоглядом, кожна розумна істота, де б і коли б вона не існувала, має однакові моральні права на всіх інших. Цю філософію називають Ефективним Альтруїзмом (ЕА).
Скандали довкола ЕА – найгучнішим з яких стало падіння криптопідприємця Сема Бенкмана-Фріда – в останні роки змусили багатьох прихильників цього руху відхрещуватися від назви. Проте ідеї лишилися. У 2025 році шість грантодавців, близьких до ЕА, спрямували 1,25 мільярда доларів; сума зростатиме разом із успіхом компанії Anthropic – лідера у сфері штучного інтелекту, заснованого саме на засадах ЕА. Засновники компанії зобов’язалися передати 80 відсотків свого статку на благодійність після IPO. Ці зобов’язання, разом із політикою співфінансування пожертв працівників, перетворяться на мільярдні філантропічні потоки через усталені інституції ЕА.
Ефективний Альтруїзм – це квінтесенція утилітаризму, тієї вікторіанської філософії розважливих реформаторів, яка перебралася до залів засідань Кремнієвої долини й отримала оманливу життєздатність завдяки багатомільярдним балансам. Оскільки ця філософія за своєю природою нездатна збагнути, що саме робить цивілізацію вартою збереження, її утопія неминуче веде до розчинення Америки в ім’я людства.
Щоб зрозуміти успіх ЕА, варто згадати кілька історичних чинників. По-перше, розвиток масмедіа розширив коло нашої турботи, яке колись обмежувалося родиною та сусідами. На початку 1970-х телевізори були майже в кожному американському домі. Кадри чужих страждань стали буденністю. Саме 1972 року філософ Пітер Сінгер опублікував есе «Голод, достаток і мораль» – текст, який ліг в основу ЕА. Його аргумент був простий: якщо ми можемо запобігти стражданням із незначними витратами для себе – ми зобов’язані це зробити, і немає жодної моральної різниці між «дитиною сусіда за десять кроків від мене» та незнайомцем на іншому континенті.
По-друге, передумовою для піднесення ЕА стала патологізація традиційних джерел ідентичності: нації, релігії, родини, звичаїв. Особливо після Другої світової війни такі локальні лояльності почали трактувати як живе коріння фашизму. Наступні покоління, виховані в системі, що позбавила їх усього конкретного, були готові сприйняти програму ЕА.
У книжці «Після чесноти» (1981) Аласдер Макінтайр зауважив, що кожна культура визначається своїм набором «характерів» – соціальних ролей, у яких втілюються її моральні ідеали. «Характери, – писав він, – це маски, які вдягає моральна філософія». Головним характером ХХ століття був бюрократ, чий авторитет ґрунтувався на нібито науковому знанні про людські справи та на передбачуваній несумірності фактів і цінностей. Бюрократ керується фактами, а цінності витісняє в приватну сферу. Його компетентність не підлягає сумніву. Єдиний критерій його авторитету – ефективність.
Він зводить усі блага до єдиного кількісного виміру, перетворюючи їх на врятовані життя, відвернені страждання, долари на один результат. Удавана нейтральність цих показників приховує цілий спектр ідеологічних засад. Людське «благо» стає похідною від калькуляцій ЕА. А тоді, вдаючи з себе ціннісну нейтральність, ЕА таврує будь-який відступ як відсталість, антинауковість і аморальність. Будь-який виклик видається зневагою і до науки, і до людської гідності.
Останнім часом «неупередженість» ЕА поширилася далеко за межі нині живих – на 10^58+ потенційних істот майбутнього, людських і цифрових, яких уявляють собі «довгостроковики». Існування цих майбутніх істот залежить від того, чи вдасться уникнути вимирання людства. Довгостроковики вважають ШІ головною екзистенційною загрозою, а передові розробки зосереджені в кількох американських лабораторіях.
Дехто зробив із цього насильницькі висновки. Елієзер Юдковський, найвпливовіший із провісників апокаліпсису, писав у Time, що держави «повинні бути готовими знищувати центри обробки даних-ренегатів авіаударами» – навіть ціною ядерної війни. А з 2022 року зізіанці – культ, що відколовся від тієї самої раціоналістичної спільноти Затоки, – причетні до шести вбивств.
Конгрес має ставитися до філантропічного апарату передового ШІ так само, як до будь-якої концентрації безконтрольної влади. Законодавці повинні вимагати прозорості грантових мереж, які фінансують лабораторії, що мають значення для національної безпеки. У федеральних контрактах слід прописувати умови, які визнає будь-який оборонний підрядник: розкривати інструкції та ціннісні системи, закладені в моделі; сертифікувати, що системи, продані уряду, виконуватимуть законні накази без права інженерного вето; і залишити за урядом право на аудит.
Машини, які купує наш уряд, мають служити американському народові, а не якомусь теперішньому чи майбутньому людству. А стандарти закупівель мають надавати перевагу моделям із відкритою вагою (open-weight), які будь-хто може завантажити, запустити й перевірити, щоб держава ніколи не опинилася в залежності від інтелекту, який кілька лабораторій можуть утримувати при собі.
автор – Вільям ТІБО керує Американським військовим проєктом у складі Центру американського способу життя при Інституті Клермонт.
