На відміну від технологічних інновацій минулого, штучний інтелект призначений не для панування людства над природою, а скоріше для повної відмови від такого контролю.
Усвідомлюємо ми це чи ні, старе антропоцентрична зарозумілість, що породжується технікою, може незабаром поступитися місцем людської недоречності і безглуздості його існування.
Відкритий лист «Інституту майбутнього життя» з вимогою шестимісячної превентивної паузи у розвитку штучного інтелекту, вже підписали тисячі високопосадовців, у тому числі Ілон Маск. Ті, хто підписався, стурбовані тим, що лабораторії штучного інтелекту «захоплені неконтрольованою гонкою» з розробки та розгортання все більш потужних систем, які ніхто, включаючи їхніх творців, не може зрозуміти, передбачити чи контролювати.
Чим пояснюється цей вибух паніки серед певної когорти еліт? Контроль та регулювання, очевидно, перебувають у центрі історії, але чий? Під час запропонованої піврічної паузи, коли людство зможе оцінити ризики, хто стане на захист людства? Оскільки лабораторії з розробки штучного інтелекту в Китаї, Індії та росії продовжать свою роботу (можливо, таємно), глобальні публічні дебати з цього питання немислимі.
Тим не менш, ми повинні з’ясувати, що тут поставлено на карту. У своїй книзі 2015 року «Homo Deus»,історик Юваль Харарі передбачив, що найімовірнішим результатом ШІ буде радикальний поділ — набагато сильніший, ніж поділ на класи — всередині людського суспільства. Незабаром біотехнології та комп’ютерні алгоритми об’єднають свої сили у створенні «тіл і мізків», що призведе до збільшення розриву «між тими, хто знає, як створювати тіла та мізки, і тими, хто цього не вміє робити». У такому світі «ті, хто сів на експрес прогресу, набудуть божественних здібностей щодо творення та руйнування, а ті, хто не встиг, приречені на вимирання».
Паніка, чиє відображення в листі про ШІ ми спостерігаємо, виникає через страх, що навіть ті, хто перебуває в «експресі прогресу», не зможуть ним керувати. Наші нинішні цифрові феодальні господарі налякані. Однак вони хочуть не публічних дебатів, а угоди між урядами та технологічними корпораціями, щоб зберегти належну їм владу.
Розширення можливостей ШІ є серйозною загрозою для тих, хто перебуває при владі, у тому числі для тих, хто розробляє, володіє та контролює ШІ. Це вказує ні на що інше, як на кінець капіталізму, яким ми його знаємо, що проявляється в перспективі системи ШІ, що самовідтворюється, яка потребуватиме все меншої та меншої кількості дій з боку людей (алгоритмічна ринкова торгівля — лише перший крок у цьому напрямі) . У нас залишиться лише вибір між новою формою комунізму та неконтрольованим хаосом.
Нові чати запропонують багатьом самотнім (або не дуже самотнім) людям нескінченні вечори дружнього спілкування про фільми, книги, кулінарії чи політику. Використовуючи мою стару метафору, люди отримають ШІ-версію кави без кофеїну або газовану воду без цукру: доброзичливого сусіда без скелетів у шафі, Іншої, яка безпосередньо пристосовується до ваших власних потреб. Тут присутня структура фетишистського зречення: «Я чудово знаю, що говорю не з реальною людиною, але мені здається, що саме так — і без будь-якого супутнього ризику!»
У будь-якому випадку, уважне вивчення листа про ШІ показує, що це ще одна спроба заборонити неможливе. Це старий парадокс: ми, люди, не можемо бути частиною постлюдського майбутнього, тому ми маємо заборонити його розвиток. Щоб орієнтуватися в цих технологіях, ми повинні поставити старе ленінське питання: свобода – для кого та для чого? У якому сенсі ми були вільні раніше? Хіба ми вже не контролювалися набагато більшою мірою, ніж ми вважали? Замість того, щоб скаржитися на загрозу нашій свободі та гідності у майбутньому, можливо, нам слід спочатку подумати про те, що означає свобода зараз. Поки ми цього не зробимо, ми поводитимемося як «істерички», які, за словами французького психоаналітика Жака Лакана, відчайдушно потребують господаря, але тільки такого, яким ми можемо самі командувати.
Футуролог Рей Курцвейл передбачає, що завдяки експоненційному характеру технічного прогресу ми скоро матимемо справу з «духовними» машинами, які не тільки виявлять усі ознаки самосвідомості, а й набагато перевершать людський інтелект. Але не слід плутати цю «постлюдську» позицію із властивою для сучасності заклопотаністю досягненням тотального технологічного панування над природою. Натомість ми спостерігаємо діалектичне звернення цього процесу.
Нині «постлюдські» науки не націлені на досягнення панування. Їхнє кредо — подив: які випадкові, незаплановані емерджентні властивості можуть придбати для себе моделі з цієї «чорної скриньки» ШІ? Ніхто не знає, і в цьому страх чи навіть банальність всього цього.
Тому на початку поточного століття, французький інженер-філософ Жан-П’єр Дюпюї розглянув у новій робототехніці, генетиці, нанотехнологіях, штучному житті та ШІ дивну інверсію традиційної антропоцентричної зарозумілості, яка проявляється в техніці: «Як нам пояснити, що наука стала настільки «ризикованою» діяльністю, що, на думку деяких провідних учених, становить сьогодні головну загрозу виживанню людства? Деякі філософи відповідають на це питання, бо це мрія Декарта — «стати паном і господарем природи» — обернулася не тим, що треба терміново повернутися до «панування над пануванням». Вони нічого не зрозуміли. Вони не бачать, що техніка, яка виявляється на нашому горизонті за допомогою «конверґенції» всіх дисциплін, має на меті саме відсутність господаря. Інженер завтрашнього дня стане учнем чарівника не через свою недбалість чи невігластво, а за власним бажанням».
Людство створює свого власного бога чи диявола. Хоча результат не можна передбачити, одне можна сказати напевно. Якщо щось схоже на «постлюдство» виникне як факт, наш світогляд втратить усі три своїх визначальних чинників, які перетинаються: саме людство, природу і божественне. Наша ідентичність, як людей, може існувати тільки на тлі непроникної природи, але якщо життя стане чимось, чим можна повністю маніпулювати за допомогою технологій, воно втратить свій «природний» характер. Цілком контрольоване існування повністю позбавлене сенсу.
Те саме, звісно, відноситься і до будь-якого почуття божественного. Людський досвід «бога» має сенс лише з погляду людської кінцевості та смертності. Як тільки ми станемо homo deus і створимо властивості, які здаються «надприродними» з нашого старого людського погляду, «боги», якими ми їх знали, зникнуть. Питання, що тоді залишиться нам? Чи поклонятимемося ми створеним нами ШІ?
Є всі підстави побоюватися, що техногностичні уявлення про постлюдський світ є ідеологічними фантазіями, що покривають туманом прірву, падіння в яку на нас чекає. Зайве говорити, що буде потрібна більш ніж шестимісячна пауза, щоб гарантувати, що люди не стануть неактуальними, а їх життя безглуздими в не такому віддаленому й майбутньому.
Переклад – ПолітКом
Джерело тут
