додому Стратегія 2030-ТІ ХАРАРІ : НОВА ЕПОХА РЕПРЕСИВНОЇ ДЕСУБЛІМАЦІЇ

2030-ТІ ХАРАРІ : НОВА ЕПОХА РЕПРЕСИВНОЇ ДЕСУБЛІМАЦІЇ

1
Screenshot

Кожен великий технологічний прорив відкриває шлях до нового варварства.

У своїй короткій доповіді «До 2030 року світ буде невпізнаваним»[1] Юваль Ной Харарі настільки чітко й стисло викладає свою позицію щодо того, як вибуховий розвиток штучного інтелекту вплине на наше життя, що сама ця доповідь стає об’єктом критичного аналізу. Він пропонує досить детальне бачення нашого світу у 2030 році, який, за його словами, буде «невпізнаваним» для тих із нас, хто й досі тримається традиційних уявлень про людяність. Однак, щоб сформулювати мою думку максимально прямо, я вважаю, що реальність 2030 року буде невпізнаваною також для тих, хто поділяє бачення Харарі щодо 2030 року.

Передумова Харарі, з якою я погоджуюся, полягає в тому, що сьогодні відбувається щось, чого більшість із нас не усвідомлює повною мірою: кінець людства таким, яким ми його знали протягом останніх приблизно 10 000 років, відколи племена кам’яного віку почали використовувати мову. Зі стрімким розвитком штучного інтелекту мова більше не є інструментом, яким люди користуються для комунікації та взаємодії; вона набуває повної незалежності й починає функціонувати як самостійний агент, перерізаючи пуповину, що пов’язувала її з уразливими мавпами, яких називають людьми. Тут я стикаюся з першою проблемою: чи функціонує мова без суб’єкта (суб’єктів), мова, яка діє як самостійний агент, і далі як мова? Більше того, чи справді мову можна звести до двох її функцій — інтелектуального обчислення та вираження емоцій? Але це питання я вже розглядав в інших текстах.

Харарі виокремлює три великі розриви, які знаменують кінець людства таким, яким ми його знали:

— По-перше, існує величезний апарат ШІ: він містить знання, які значно перевершують людську пам’ять і є миттєво доступними. Ці знання включають інформацію про людей, які перебувають у сфері ШІ. У цьому сенсі, як часто кажуть, ШІ знає нас краще, ніж ми самі себе. Крім того, ШІ не просто накопичує знання й виконує над ними когнітивні операції — міркує; він уже не є лише інструментом, машиною, яка виконує накази й робить те, що їй наказано. Він уже є агентом, здатним ухвалювати автономні рішення — рішення, щодо яких його не програмували. Він не лише навчається і трансформує себе для виконання своїх завдань; він уже здатен переосмислювати самі ці завдання.

Моя реакція тут подвійна. По-перше, звичайно, ми не знаємо себе добре, оскільки маємо несвідоме — тобто тому, що сама наша суб’єктивність означає, що ми не можемо бути повністю впізнаваними для самих себе. Що стосується рішень, то людське рішення є вільним у точному сенсі цього слова, оскільки його найглибший вимір — це те, що Фройд називав потягом до смерті: вибір нічого. В обох випадках питання залишається відкритим: наскільки ШІ демонструє ці виміри — суб’єктивність, потяг до смерті, несвідоме?

— По-друге, ШІ разом із технологічним використанням відкриттів нейронаук стирає межу між реальністю та вигадкою. Наше сприйняття зовнішньої реальності та взаємодія з нею завжди опосередковувалися соціально-історичним символічним контекстом, тому те, що ми бачимо, є «контрольованою галюцинацією» (Аніл Сет): наше сприйняття реальності — не пряме вікно у світ, а найкраща можлива внутрішня симуляція, яку активно генерує мозок і яку постійно коригують сенсорні сигнали. Сьогодні «внутрішня симуляція» вже не є лише спонтанним процесом, який регулюється нашим мозком і спільною ідеологією; дедалі частіше вона генерується свідомо спланованою технологічною маніпуляцією.

Йдеться не лише про те, що те, що ми бачимо навколо себе як реальність, є підробкою — на кшталт декорації, намальованої на великій стіні в кіносцені, коли немає необхідності будувати справжні будинки чи розміщувати справжні дерева на задньому плані. Наш перцептивний апарат безпосередньо маніпулюється, тож те, що, як нам здається, ми бачимо там, зовні, насправді там відсутнє — навіть не у формі намальованої підробки чи змодельованого звуку: безпосередньо маніпулюються самі наші нерви. Як відомо більшості з нас, не лише біль чи задоволення, а навіть оргазм уже можна викликати без будь-яких візуальних уявлень у нашій свідомості — просто безпосередньо стимулюючи нерви. Коли пряме втручання в мозок стане фактом, стане можливим вставляти в наш мозок хибні спогади або навіть травми, яких ми ніколи не переживали в реальності.

Моя відповідь на це — наполягати на ключовому лаканівському розрізненні між Реальним і реальністю, яке жодним чином не збігається з розрізненням між реальністю-в-собі та тим, як реальність постає перед нами, заражена вигадками й фантазіями.

Багато критиків скаржаться, що лаканівське Реальне є невловимим поняттям, яке коливається між протилежними значеннями: це порожнеча, навколо якої структурується символічна мережа; це контингентний залишок, пляма, маленький фрагмент реального, який чинить опір символізації — те, що Шеллінг називав der nie aufgehende Rest; це суто формальна мова, позбавлена значення, на кшталт математичних формул; це жахлива Річ, яку ми не здатні інтегрувати у наше повсякденне уявлення про реальність — гігантське чудовисько, яке живцем пожирає людей, мегашторм, що стирає будинки й людей, жорстоке катування, яке розриває людей на частини: випадки, коли спостерігач каже собі: «Цього не може бути!»; це бар’єр, який не дозволяє нам перейти за його межі, хоча за ним нічого немає; це базова фантазія, на репресії якої ґрунтується існування суб’єкта, фантазія, у якій суб’єкт ніколи не може впізнати самого себе.

Тут нам не потрібно запроваджувати класифікацію Реального, розділяючи його на чотири чи п’ять підкатегорій; нам потрібно схопити іманентний рух поняття Реального. Один аспект Реального, доведений до крайності, мутує у щось цілком інше: образ жахливої Речі мутує у фантазію, яка приховує — або, радше, заповнює — первісну Порожнечу; ця Порожнеча мутує у перешкоду чи заборону, які приховують той факт, що за ними нічого немає. Тут знову повторюється одна й та сама матриця: Реальне — це те, що існує там, назовні, до символізації, і те, що залишається після неї, залишок символізації. Реальне — це те, що перебуває за межами символізації, і водночас перешкода, яка не дозволяє нам досягти цього «за межами». Реальне — це порожня форма без змісту та зміст, для якого немає місця у формі — згадаймо лаканівську формулу суб’єкт-об’єкта: $-a.

У цьому також полягає парадокс заборони інцесту: вона забороняє те, що саме по собі є неможливим. Інцест із матір’ю заборонений, але справжня мета цієї заборони — створити ілюзію, ніби, порушивши її, ми досягнемо повної, некастрованої jouissance — насолоди. Коротше кажучи, заборона маскує той факт, що забороняти насправді нічого. То навіщо ми витрачаємо час на ці деталі? Тому що, знову ж таки, у ШІ немає місця для такого заплутаного збігу протилежностей.

Отже, недостатньо просто скаржитися на те, що розвиток ШІ підриває розмежування між фактами та вигадками, і недостатньо також святкувати нашу здатність вільно переміщатися між фактами й вигадками як нову свободу. Ми чітко бачимо катастрофічні наслідки такої «свободи» у значній частині сучасної політики — Трампа, Путіна, Ізраїлю, — де виникає новий дискурс, який навіть не прагне бути правдивим у традиційному сенсі. На онтичному рівні реальності ми повинні як ніколи наполягати на фактичній істині; але водночас маємо усвідомлювати, що на більш фундаментальному онтологічному рівні розмежування між істиною та вигадкою стає розмитим.

— І останнє, але не менш важливе: Святий Грааль усієї цієї тенденції — перспектива Neuralink, підключеного мозку. ШІ у поєднанні з нейрохірургією та технологіями, заснованими на дослідженнях мозку, відкриває шлях до прямої комунікації між потоком наших думок і цифровим агентом. Нам більше не потрібен екран для взаємодії з ШІ: агент ШІ може безпосередньо читати те, що відбувається в нашій свідомості, і діяти відповідно до цього. [2] Коли компанії презентують перші скромні імпланти, здатні дозволити цифровій машині читати наші думки, вони майже завжди демонструють доброзичливий сценарій: такий імплант дає змогу повністю паралізованій людині спілкуватися — вона думає, а машина ШІ озвучує її думки — або діяти, не рухаючись: агент ШІ читає її думки й пересуває її крісло, вмикає телевізор тощо.

Набагато рідше згадується, що комунікація також рухається у протилежному напрямку: нашими думками керує агент ШІ і, звичайно, інша людина, яка контролює агента ШІ. Перспектива, яка тут відкривається, — це повна прозорість внутрішнього потоку моїх думок для зовнішньої машини ШІ та для тих, хто контролює цю машину.

Хоча Харарі добре відомий своїми постійними попередженнями про те, що епоха людини добігає кінця, тут він надто оптимістичний, змальовуючи картину найближчого майбутнього — 2030 року, — у якому люди зможуть вступати в емоційні стосунки з реальними та цифровими особами. 

Це вже відбувається, коли люди проводять години у розмовах із ChatGPT. Але уявімо набагато розвиненішу систему, у якій я вдягаю цифрові окуляри й вступаю в розмову зі своїм померлим батьком, чия віртуальна особистість була реконструйована на основі моїх власних та чужих спогадів, а також інших матеріальних слідів — записів тощо. Але хто контролює цю гру? А що, якщо контролювати нас можна буде зсередини — за допомогою думок і хибних спогадів, імплантованих у мою свідомість так, що я навіть не знатиму про це? Уявімо, що в мою свідомість імплантують спогад про те, що мене зґвалтував мій батько, і я переживатиму його як справжній. Що, якщо виникне новий клас господарів, здатних читати наші думки й втручатися в них, але самі вони не будуть підключені до Neuralink? Що, якщо виключеними будуть не просто маргіналізовані нижчі верстви, а елітна група господарів, які контролюють і маніпулюють мешканцями сингулярності?

Що стосується Neuralink, Харарі уявляє, що людина зможе вільно обирати, до яких колективних свідомостей приєднуватися — науковців? поетів? Справді? Чи збережеться моя індивідуальність після занурення в те, що називають «сингулярністю»? Оскільки імплант, який регулює мій контакт із Neuralink, є механічним пристроєм, хіба не очевидно, що контроль здійснює той, хто під’єднує або від’єднує імплант? Я не наївний лівий, який вважає ШІ нейтральною машиною, соціальні наслідки якої залежать від соціальних обставин, у яких вона функціонує: тенденція до технологічного контролю та панування закладена в самій формальній структурі ШІ. Саме тому важко уявити щасливу, емансиповану спільноту людських індивідів, які живуть разом у сингулярності: у сингулярності немає сексу, немає жартів, немає комунікації, у якій інший залишається непрозорим.

Висновок, який напрошується сам собою, полягає в тому, що кожен великий технологічний прорив відкриває шлях до нового варварства: його псевдовизвольний ефект зрештою перетворюється на те, що Герберт Маркузе називав «репресивною десублімацією» — термін, який він запровадив у книзі Одновимірна людина у 1964 році.[3] Можна стверджувати, що Теодор Адорно першим указав у цьому напрямку у своєму аналізі Стравінського «Стравінський і реакція», другій частині Філософії нової музики (1949).[4] Адорно проникливо зазначав, як модернізм Стравінського — його музичне наслідування ритму жорстокого промислового виробництва — використовує старі російські варварські та насильницькі жертовні міфи як свій зміст.

За Маркузе, «репресія» у пізньому капіталізмі здійснюється не через контроль і заперечення, а через дозвіл і вираження: усі задоволення дозволені — у товаризованій формі, — що призводить до контрольованого вираження всіх бажань і прагнень. Іншими словами, сьогодні репресія здійснюється через десублімацію бажання, коли жодні бажання не витісняються в підпілля: порнографія, секс-робота, наркотична культура, БДСМ, фуррі, гей-культура, розкішний спосіб життя, транс-культура тощо більше не сприймаються суспільством як негативні чи шкідливі способи життя. Їхнє прагнення тепер санкціонується й прославляється: приналежність до цих форм життя більше не є підривною дією чи способом життя — тепер вона відтворює капіталізм через форму вартості.[5]

Сьогодні вибухове зростання агентів ШІ вивело репресивну десублімацію на новий, досі немислимий рівень — у всіх її вимірах: від всесвіту постправди до розмивання розмежування між власне публічним і приватним простором, не кажучи вже про цифровий контроль над тим, що ми робимо і думаємо. Медіа на основі ШІ також відіграють вирішальну роль у тому, як жорстокість і безсоромна непристойність протягом останнього десятиліття проникли в публічний політичний дискурс. Не лише у своїх словах, а й у своїх діях — публічних заявах про катування в’язнів — США та Ізраїль сьогодні практикують репресивну десублімацію. Трамп і Нетаньягу, не кажучи вже про Хегсета та Бен-Гвіра, часто говорять публічно так, як донедавна можна було уявити лише у приватних розмовах чи приватному листуванні електронною поштою. 

Їхня мова буквально є мовою репресивної десублімації: вона безумовно десублімована — жорстоко відверта, позбавлена будь-яких обмежень, які захищають гідність, — і водночас репресивна, оскільки проголошує не менш жорстоке поводження з тими, кого сприймають як ворогів, включно зі знищенням цілої цивілізації.

Тут ми маємо справу не просто з ефектом ШІ, а з дуже специфічним набором соціальних обставин, у межах яких функціонує ШІ. Ми все ще шукаємо належну назву для цього нового набору обставин: цифровий неофеодалізм, ліберальний фашизм, новий різновид бонапартизму. Ми добре усвідомлюємо, що ці назви циркулюють навколо явища, яке безумовно є реальним і важкий тягар якого ми всі відчуваємо. Функціонування ШІ не можна відокремити від неофеодальної класової боротьби, яку найкраще символізує згубний квартет Маска—Тіля—Безоса—Цукерберга.

2. Years ago I did a book on this – see Hegel in a Wired Brain, London: Bloomsbury 2020.

  • See Herbert Marcuse, One-Dimensional Man, Boston: Beacon Press 1991.
  • See Theodor W. Adorno, Philosophy of New Music, Minneapolis: Minnesota University Press 2006.

5 See https://en.wikipedia.org/wiki/Repressive_desublimation 

автор – Славой ЖИЖЕК

джерело

переклад ПолітКом

НАПИСАТИ ВІДПОВІДЬ

введіть свій коментар!
введіть тут своє ім'я