Каковы сегодня наши отношения с социальной свободой? Перспектива полной оцифровки нашей повседневной жизни в сочетании со сканированием нашего мозга (или отслеживанием наших телесных процессов с помощью имплантов) открывает реальную возможность создания внешней машины, которая будет знать нас, биологически и психически, намного лучше, чем мы сами: регистрируя то, что мы едим, покупаем, читаем, смотрим, и различая наши настроения, страхи и удовлетворения, внешняя машина получит гораздо более точную картину нас самих, чем наша сознательная «самость», которая, как мы знаем, даже не существует как целостная сущность.
Юваль Харари, описавший эту картину (1), указывает, что наша «самость» состоит из нарративов, которые задним числом пытаются навязать некоторую последовательность хаосу наших переживаний, стирая переживания и воспоминания, которые нарушают эти нарративы. Идеология живет главным образом не в историях, созданных (теми, кто у власти), чтобы обмануть других, она живет в историях, созданных субъектами, чтобы обмануть самих себя. Но хаос сохраняется, и машина будет регистрировать диссонансы и, возможно, даже сможет справиться с ними гораздо более рациональным способом, чем наша сознательная самость.
Скажем, когда мне придется решать, жениться или нет, машина будет регистрировать все преследующие меня колебания, прошлые боли и разочарования, которые я предпочитаю смахивать под ковер. А почему бы не распространить эту перспективу даже на политические решения? В то время как моя самость может быть легко соблазнена популистским демагогом, машина будет принимать во внимание все мои прошлые разочарования, она будет регистрировать несоответствие между моими мимолетными страстями и прочими моими убеждениями — так почему бы машине не проголосовать от моего имени?
Таким образом, в то время как науки о мозге подтверждают «постструктуралистскую» или «деконструктивистскую» идею о том, что мы — это истории, которые мы рассказываем себе о самих себе, и что эти истории суть запутанный бриколаж без единой самости, суммирующей их, они, как кажется, предлагают (или, по крайней мере, обещают) выход, который напрямую связан с заложенной в этой идее недостатком: именно потому, что машина, которая читает нас все время, «слепа», не имеет осознания, представляет собой механический алгоритм, она может принимать решения, которые намного более адекватны, чем те, которые принимаются человеческими индивидами, гораздо более адекватны не только по отношению к внешней реальности, но и прежде всего по отношению к самим этим индивидам, к тому, чего они действительно хотят или в чем нуждаются:
«Либерализм обожествляет повествующую самость и дает ей право голосовать на избирательных участках, в супермаркетах и на брачном рынке. Веками это себя оправдывало, так как даже при всей вере повествующей самости во всякого рода вымыслы и фантазии никакая альтернативная система не знала меня лучше. Но когда появится система, действительно знающая меня лучше, будет чистейшим безрассудством оставить право решения за повествующей самостью. Либеральные обычаи типа демократических выборов уйдут в прошлое, поскольку и мои политические взгляды Google сможет отстаивать лучше, чем я сам» (2).
Можно привести очень реалистичные аргументы в пользу этого варианта: дело не в том, что компьютер, регистрирующий нашу деятельность, всемогущ и непогрешим, просто в среднем его решения работают существенно лучше, чем решения нашего разума: от медицины, где он ставит диагнозы лучше, чем наш средний врач, и т. д., вплоть до взрывной алгоритмической торговли на фондовых рынках, где программы, которые можно скачать бесплатно, уже превосходят финансовых консультантов.
Ясно одно: либеральной «истинной самости», свободного агента, который осуществляет то, чего я «действительно хочу», просто-напросто не существует, и полное одобрение этого отсутствия означает отказ от основной индивидуалистической предпосылки либеральной демократии. Цифровая машина — последнее воплощение Большого Другого, «субъекта, предположительно знающего», который действует как бессубъектное поле знания…
Есть, конечно, целый ряд вопросов, которые здесь сохраняются. Харари знает о них: «Раньше цензура просто перекрывала поток информации. В XXI веке цензура осуществляется путем снабжения людей лишней, ненужной информацией… Испокон веков власть подразумевала доступ к информации. Сегодня власть подразумевает знание, на что не надо отвлекаться» (3). Может ли «слепая» машина определить, на что не следует отвлекаться, или это требует минимальной формы субъективности?
Существует давняя традиция, как в философии, так и в науке, отрицать свободу воли, но сомнения относительно свободы воли «никак не влияют на ход истории, если не оказывают реального влияния на экономику, политику и повседневную жизнь. Люди — непревзойденные мастера когнитивного диссонанса: мы позволяем себе в лаборатории верить в одно, а в суде или парламенте — совершенно в другое» (4).
Харари указывает, что даже такие популярные поборники нового научного мира, как Докинз или Пинкер, написав сотни страниц, разоблачающих свободу воли и свободу выбора, в конечном итоге поддерживают политический либерализм (5). Однако сегодня «либерализму угрожает не философская идея, отрицающая существование свободных индивидуумов, а конкретные технологии.
В самом скором времени нас ожидает нашествие чрезвычайно полезных устройств, приспособлений и структур, которые не оставят места свободной воле индивидов. Выживут ли в этих условиях демократия, свободный рынок и права человека?» (6). Итак, если развитие сделает homo sapiens устаревшим, то что последует за ним? Постчеловеческий homo deus (со способностями, которые традиционно идентифицируются как божественные) или квазивсемогущая цифровая машина? Сингулярность (глобальное сознание) или слепой интеллект без осознания?
Погружение в Сингулярность — это только первый вариант. Второй вариант: если машины выиграют, то «люди рискуют лишиться своей экономической ценности. Происходит это из–за того, что интеллект отделяется от сознания» (7). Это разъединение интеллекта и сознания снова ставит нас перед загадкой сознания: несмотря на многочисленные довольно отчаянные попытки, эволюционная биология не имеет четкого ответа на вопрос, какова эволюционная функция осознания/сознания.
И теперь, когда интеллект отделяется от сознания, «что случится с обществом, политикой и нашей повседневной жизнью, когда лишенные сознания, но высокоразвитые алгоритмы будут знать нас лучше, чем знаем себя мы сами?» (8).
Третий и наиболее реалистичный вариант: радикальное разделение, гораздо более сильное, чем классовое разделение, внутри самого человеческого общества. В ближайшем будущем биотехнологии и компьютерные алгоритмы объединят свои силы в производстве «тел, мозгов и умов», и пропасть между «теми, кто научится создавать мозги и умы, и теми, кто не научится», будет расширяться: «те, кто успел занять места в поезде прогресса, обретут божественные способности созидания и разрушения, а те, кто остался на станции, будут обречены на вымирание» (9).
Таким образом, главная угроза заключается в том, что возникнет «малочисленная привилегированная элита усовершенствованных людей. Эти сверхлюди будут обладать неслыханными способностями и беспрецедентным креативным потенциалом, что позволит им по-прежнему принимать многие из самых важных для всего мира решений… Однако подавляющее большинство людей не будут усовершенствованы и, следовательно, станут низшей кастой, подчиненной как компьютерным алгоритмам, так и новым сверхлюдям. Разделение человечества на биологические касты сокрушит основы либеральной идеологии» (10).
Однако это разделение на касты вовсе не будет таким прямолинейным, как это может показаться. Как будет определяться новая элита? Будет ли элита особой усовершенствованной биологической кастой со сверхчеловеческими способностями (что означает, что ее члены также будут контролироваться и подвергаться генетическим манипуляциям) или она будет освобождена от контроля, контролируя и манипулируя другими? Вероятно, оба варианта одновременно.
В пригородах Шанхая уже есть клиники, куда богатые западные пары идут, чтобы провести генетическую проверку и обработку своего потомства еще до рождения детей — до какой же степени новая элита сможет тогда контролировать цифровые и биохимические/генетические машины, которые контролируют ее? Здесь мы не будем заниматься обширной областью биогенетических вмешательств, предназначенных для создания новых постчеловеческих сущностей — вот название и подзаголовок репортажа El Pais: «Испанские ученые создают человеко-обезьянью химеру в Китае.
Команда под руководством Хуана Карлоса Исписуа вводила стволовые клетки в эмбрионы животных в рамках исследований, направленных на поиск способа выращивания органов для трансплантации» (11). Обратите внимание на обычное гуманитарное оправдание: на самом деле мы делаем это, чтобы вырастить органы для трансплантации, а не по гораздо более очевидной причине, чтобы увеличить (или уменьшить) человеческие возможности с целью создания постчеловеческих совершенных рабочих или солдат. Эта идея имеет давнюю историю в ХХ веке: еще в конце 1920-х годов не кто иной, как Сталин некоторое время финансово поддерживал проект «человека-обезьяны», предложенный биологом Ильей Ивановым.
Идея состояла в том, что путем спаривания людей и орангутангов можно создать идеального рабочего и солдата, невосприимчивого к боли, усталости и плохой пище. (В своем спонтанном расизме и сексизме Иванов, конечно, пытался спарить человеческих мужчин и самок обезьян, плюс люди, которых он использовал, были черными мужчинами из Конго, поскольку предполагалось, что они должны были быть генетически ближе к обезьянам — Советское государство профинансировало дорогостоящую экспедицию в Конго.) Когда эксперименты провалились, Иванова, разумеется, ликвидировали.
Говоря популярным языком, здесь открывается перспектива нового полицейского государства — какого именно полицейского государства? Здесь мы должны вернуться к Гегелю и его полемике с Фихте. Фихте часто высмеивают не только за его субъективно-идеалистический постулат самополагания абсолютного Я (философская версия утверждения барона Мюнхгаузена о том, что он спасся из болота, в котором тонул, вытащив себя за волосы); его также регулярно осуждают как предвестника современного полицейского государства, которое полностью контролирует своих граждан. Его собственные слова, кажется, подтверждают это уничижительное суждение:
«В государстве с описанной здесь конституцией у каждого есть свое определенное сословие, полиция приблизительно точно знает, где находится и чем занимается в любое время дня каждый гражданин… В подобном государстве преступление есть нечто крайне необычное; ему предшествует известное необычное движение. В государстве, где все есть порядок и все идет по струнке (nach der Schnur geht), полиция замечает это необычное движение и сразу же проявляет внимание к нему» (12).
Значит, Здравко Кобе в своем кратком описании хорошо устроенного государства Фихте прав, утверждая, что в нем:
«полиция оказывается вездесущей. Речь идет не только о том, что, согласно его знаменитому предложению, каждый человек должен иметь при себе удостоверение личности с фотографией внутри, чтобы полиция могла опознать любого на месте, или что переводные векселя должны быть напечатаны на специальной бумаге, доступной исключительно для государственных органов, что сделает подделку практически невозможной.
Чтобы эффективно защищать граждан от преступлений, полиция должна, по утверждению Фихте, также уделять большое внимание предупреждению правонарушений и направлять свою деятельность не только против реальных побоев, но и против самой их возможности… Таким образом, конечная цель полицейских постановлений состоит в установлении прозрачного порядка, который сделал бы незаконные действия физически невозможными» (13).
Уже в своей первой книге, опубликованной в 1801 году, Гегель отверг фихтевский «профилактический рассудок и его насильственный орган власти, полицию» и осудил Фихте как помешанного на контроле: «В государстве Фихте каждый гражданин найдет занятие, по крайней мере, для полдесятка людей по надзору, расчетам и т. д. до бесконечности» (14). В неопубликованных фрагментах относительно конституции Германии от 1802/03 года он повторил эту критику:
«Между тем в новых, частично реализованных теориях господствует предубеждение, согласно которому государство рассматривается как машина, весь бесконечно сложный механизм которой приводится в действие одной пружиной; все учреждения, связанные с самой природой общества, должны, согласно этим теориям, создаваться государственной властью, регулироваться ею, преобразовываться в соответствии с ее приказами и подвергаться ее контролю» (15).
В противоположность «педантическому стремлению Фихте определить каждую деталь», Гегель утверждал, что «государство должно скорее установить четкое различие между тем, что существенно для его существования и единства, и тем, что может быть оставлено на волю случая и произвольной воли» (16): государство должно «требовать от отдельного человека только то, что ему необходимо» и «в остальном оно может предоставить своим гражданам значительную свободу в их жизни и волеизъявлении» (17):
«Центральной государственной власти, правительству, надлежит предоставлять своим подданным свободу во всем том, что не относится к прямому ее назначению — к организации власти и ее сохранению… не может быть более священной для правительства обязанности, чем предоставление гражданам свободы в такого рода вопросах и их защита, независимо от каких бы то ни было соображений утилитарного характера, ибо эта свобода священна сама по себе» (18).
Сторонники Гегеля любят цитировать подобные отрывки, чтобы развеять подозрение, что Гегель был протототалитарным поклонником государства. Однако перспектива оцифровки нашей жизни проливает новый свет на это противостояние Фихте и Гегеля: как будто настал момент мести Фихте Гегелю.
Когда Гегель насмешливо замечает, что в государстве Фихте «каждый гражданин найдет занятие, по крайней мере, для полдесятка людей по надзору, расчетам и т. д. до бесконечности», мы не можем не заметить, что это основанное на эмпирических основаниях опровержение видения Фихте больше не имеет силы: при наличии сложной цифровой сети, постоянно регистрирующей нашу деятельность, контроль, предусмотренный Фихте, сегодня не только возможен, но в значительной степени уже является фактом.
Цифровая регистрация всех наших действий (плюс состояния нашего здоровья, наших пристрастий в чтении, наших мнений и предрасположенностей…) в конечном счете направлена именно на то, чтобы предсказать наши нарушения закона, а затем действовать превентивно, чтобы сделать их невозможными для нас.
Что еще хуже, так это то, что существует важное различие между проектом полицейского контроля Фихте и формирующейся сегодня реальностью цифрового контроля: видение Фихте остается «тоталитарным» в стандартном смысле внешнего ведомства, открыто контролирующего нас, в то время как сегодняшний цифровой контроль не воспринимается как внешнее ограничение нашей свободы.
Здесь мы получаем уникальную новую форму «единства противоположностей», где субъективное осуществление свободы совпадает с объективным контролем. Нетрудно увидеть структурную гомологию между этим парадоксом и общим видением нейросвязи, реализующей короткое замыкание, которое Гегель не мог себе и представить (прямое материальное единство мысли и цифровой материальной реальности).
Самая опасная угроза свободе исходит не от открыто авторитарной власти, она возникает тогда, когда сама наша несвобода ощущается как свобода. Поскольку вседозволенность и свободный выбор возводятся в высшую ценность, социальный контроль и господство больше не могут казаться посягательством на свободу субъекта: они должны выглядеть (и поддерживаться) самим самоощущением индивидов как свободных.
Существует множество форм этого проявления несвободы под видом ее противоположности: когда мы лишены всеобщего здравоохранения, нам говорят, что нам дана новая свобода выбора (выбирать нашего лечащего врача); когда мы больше не можем рассчитывать на долгосрочную занятость и вынуждены искать новую ненадежную работу каждые два года, нам говорят, что нам дана возможность заново изобретать себя и открывать новые неожиданные творческие потенциалы, которые таились в нашей личности; когда нам приходится платить за образование наших детей, нам говорят, что мы становимся «антрепренерами самих себя», действуя как капиталист, который должен свободно выбирать, как он будет инвестировать имеющиеся у него (или заимствованные) ресурсы — в образование, здравоохранение, путешествия…
Постоянно подвергаясь бомбардировке навязанными «свободными выборами», вынужденные принимать решения, для которых мы в большинстве случаев даже не обладаем достаточной квалификацией (или не обладаем достаточной информацией), мы все больше и больше ощущаем нашу свободу как бремя, которое вызывает невыносимую тревогу.
Более того, большинство наших действий (и бездействий) теперь регистрируются в некоем цифровом облаке, которое также постоянно оценивает нас, отслеживая не только наши действия, но и наши эмоциональные состояния; когда мы ощущаем себя максимально свободными (серфинг в Интернете, где все доступно), мы «экстернализируемся», и нами изощренно манипулируют. Цифровая сеть придает новый смысл старому лозунгу «личное — это политическое».
И речь идет не только о контроле над нашей интимной жизнью: сегодня все регулируется той или иной цифровой сетью, от транспорта до здравоохранения, от электричества до водоснабжения. Вот почему сеть сегодня является нашим самым важным достоянием, и борьба за контроль над ней — это сегодня Борьба с большой буквы.
********
Примечания:
(1) Харари Ю.Н. Homo Deus. Краткая история будущего. М.: Синдбад, 2018.
(2) Там же. С. 397-398.
(3) Там же. С. 464.
(4) Там же. С. 356-357.
(5) Там же.
(6) Там же.
(7) Там же. С. 362.
(8) Там же. С. 465.
(9) Там же. С. 321.
(10) Там же. С. 405.
(11) Цит. по: https://elpais.com/elpais/2019/07/31/inenglish/1564561365_256842.html.
(12) Фихте И.Г. Основа естественного права согласно принципам наукоучения. М.: «Канон+» РООИ «Реабилитация», 2014. С. 264-265.
(13) Kobe Z. “The Interface of the Universal: On Hegel’s Concept of the Police”.
(14) Гегель Г. В.Ф. Работа о различии // Кантовский сборник. Вып. 13. Калининград, 1988. С. 150.
(15) Гегель Г. В.Ф. Политические произведения. М.: Наука, 1978 С. 83-84.
(16) Kobe Z. “The Interface of the Universal: On Hegel’s Concept of the Police”.
(17) Гегель Г. В.Ф. Политические произведения. С. 77.
(18) Там же. С. 84.
Перевод с английского Ярослава Микитенко
Источник: syg.ma
