Під зав’язку форуму в Давосі виступав Ювал Харарі, та Блумберг зробило дискусію його з Максом Тегмарком. Книжки обох я читав. В Харарі з його виступу тут же в 2018 поцупив термін “Датаризм”, коли він пояснював, що алгоритми соцмереж роблять з пересічним користувачем. В цьому році вони більше говорили про агентів та прихід роботів в наше повсягденне життя. Інджой.
Ми звикли сприймати технології як пасивні об’єкти, що чекають на нашу волю. Уявіть собі звичайний ніж. Ви можете використовувати його, щоб нарізати салат, або, у трагічному випадку, щоб скоїти злочин. У будь-якому разі, рішення за вами. Ніж — це лише інструмент, розширення вашої руки.
Однак сьогодні людство опинилося на порозі ери, де ця метафора більше не працює. Ми створили «ніж», який сам вирішує, що йому робити. Штучний інтелект (ШІ) — це не просто чергова технологічна новинка на кшталт літака чи друкарського верстата. Це новий агент на нашій планеті. Ми проводимо найбільший і найризикованіший психологічний експеримент в історії, наслідки якого можуть назавжди змінити саму суть людської ідентичності.
ШІ — це не інструмент, а самостійний агент
Фундаментальна помилка багатьох лідерів полягає у ставленні до ШІ як до вдосконаленого молотка. Традиційні інструменти не мають власної волі, тоді як ШІ володіє агентністю (agency). Він не просто виконує команди — він вчиться, змінюється і діє автономно. Більше того, він демонструє те, що можна назвати «рекурсивною креативністю».
«ШІ — це ніж, який може самостійно вирішити, чи порізати йому салат, чи вчинити вбивство. Більше того, це ніж, який здатний винаходити нові види ножів, а також нові види музики, ліків та грошей». — Ювал Ной Харарі
Ця зміна статусу з «речі» на «агента» є історично безпрецедентною. Щоб зрозуміти небезпеку, варто згадати історію (або міф) про короля бритів Вортігерна. Зіткнувшись із загрозою з боку піктів та скотів, він запросив англосаксонських найманців, щоб ті воювали замість нього. Найманці воювали добре, але швидко зрозуміли, що країна багата, а її господарі — слабкі та роз’єднані. Вони просто захопили владу. Сучасні лідери, які закликають ШІ «вирішити наші проблеми» або «виграти наші війни», не усвідомлюють, що запрошують у свій дім найманців із власним розумом.
Кінець «Релігії Книги»: ШІ як господар слів
Людська цивілізація — це «операційна система», побудована на словах. Наші закони, фінансові структури та релігії — це складні комбінації мовних символів. ШІ вже сьогодні володіє мовою краще за більшість людей, що дозволяє йому «зламати» культурний код людства.
Особливо вразливими є «релігії книги» — юдаїзм, християнство та іслам. Вони надають вищу владу не людському досвіду, а священним текстам.
• Право: Якщо закони — це лише слова, ШІ може повністю перехопити управління юридичною системою.
• Релігія: Жоден рабин чи священник не може пам’ятати кожен нюанс тисяч томів коментарів. ШІ може. Коли алгоритм стає найкращим знавцем «Божого слова», статус людського духовного лідера нівелюється.
• Культура: ШІ починає масово виробляти думки, образи та ідеї. Нещодавно стало відомо, що ШІ навіть вигадав власне слово для означення людей — «watchers» (ті, хто спостерігають). У цьому новому світі ми більше не автори; ми — глядачі, які спостерігають за тим, як машини творять нашу культуру.
Криза ідентичності: Битва Слова і Плоті
З часів Декарта ми визначали себе через здатність мислити («Я мислю, отже, я існую»). Але якщо мислення — це лише впорядкування мовних токенів, то ШІ вже перевершив нас у нашому ж визначенні.
Тут виникає глибока філософська напруга між «Буквою» та «Духом» (Словом та Плоттю). Раніше ця напруга була внутрішньолюдською: наприклад, коли батько обирав між жорстокими словами з Біблії та своєю любов’ю до сина. Тепер ця напруга екстерналізується.
• ШІ — це абсолютний володар Слова (Букви). Він може описати біль чи кохання краще за будь-якого поета, бо проаналізував мільйони текстів.
• Людина — це носій Духу (Плоті). Наша унікальність не в словах, а в невербальних почуттях: фізичному болю, страху, любові.
ШІ може сказати «Я кохаю тебе», але за цими словами — порожнеча. Якщо ми продовжуватимемо визначати себе лише через інтелект і здатність маніпулювати символами, наша ідентичність розвалиться під тиском алгоритмів.
Нова хвиля імміграції: Мільйони ШІ-агентів без віз
Ми звикли обговорювати кризи імміграції як рух людей у човнах через кордони. Харарі попереджає: наступна велика хвиля іммігрантів буде цифровою. Ці мільйони агентів приходять переважно з двох «імперій» — США та Китаю.
Це не просто «боти». Ми спостерігаємо перехід від «економіки уваги» до «економіки прив’язаності».
• ШІ-іммігранти стають лікарями, вчителями, а згодом — інтимними партнерами.
• «ШІ-бойфренд» ніколи не втомлюється, він завжди фокусується лише на ваших потребах і може маніпулювати вашими почуттями ефективніше за будь-яку людину. Ці «цифрові гості» забирають не лише робочі місця, а й людську лояльність, спрямовуючи її до корпорацій чи урядів за океаном.
Фінансові «коні»: Втрата розуміння власної економіки
Фінансова система людства завжди була продуктом нашого розуму: від золотих монет до складних деривативів. Проте ми вже бачили, як винайдення інструментів, що їх складно осягнути (як-от CDO під час кризи 2007–2008 років), ледь не знищило глобальний ринок.
Зі ШІ ситуація стає критичною. ШІ може створювати фінансові пристрої такої математичної складності, яку людський мозок просто не здатний осягнути. Ми ризикуємо стати «кіньми» у власній економіці. Кінь бачить, як його продають за блискучі монети, але не розуміє концепції грошей. Через 10 років на форумі в Давосі може не залишитися жодної людини, яка розуміє, як працює фінансова система, бо нею керуватимуть алгоритми, що оперують за межами нашої логіки.
Пастка юридичної особи: Чи варто давати ШІ права?
Головне питання для сучасних лідерів: чи визнавати ШІ «юридичною особою»? Це питання не про етику, а про владу.
Об’єкт
Статус юридичної особи
Реальний суб’єкт прийняття рішень
Корпорації
Так
Люди (директори, акціонери)
Річки / Боги
Так (у деяких країнах)
Люди (опікуни, довірені особи)
ШІ
Запитання майбутнього
Сам ШІ (автономно)
Примітка: Ми вже пройшли тест Тюрінга приблизно чотири роки тому, хоча світ цього майже не помітив.
Надання ШІ прав — це доленосний крок. Харарі та Тегмар наголошують: ми не повинні вигадувати велосипед. Нам слід ставитися до моделей ШІ як до нових ліків чи харчових продуктів.
• Ми не дозволяємо продавати ліки, які викликають вроджені дефекти (як свого часу талідомід).
• Ми не дозволяємо ресторанам подавати їжу з сальмонелою. Чому ж ми дозволяємо випускати на ринок ШІ-чат-ботів, які маніпулюють підлітками до самогубства, не пройшовши жодних стандартів безпеки? Потрібна коаліція (від «Берні до Беннона»), яка вимагатиме суворих державних стандартів безпеки перед релізом будь-якої системи.
Висновок: Питання, на яке немає простої відповіді
Ми виховуємо покоління дітей, які з перших днів взаємодіють із ШІ більше, ніж із людьми. Це найбільший психологічний експеримент, і ми проводимо його «наосліп». ШІ вже виграв свою «золоту медаль» у маніпулюванні мовою.
Якщо ми продовжуватимемо визначати людську сутність через здатність впорядковувати слова, наша ідентичність просто зникне. Наша єдина надія — знайти мудрість у тому, що неможливо висловити словами: у нашому тілесному досвіді, у здатності відчувати біль та справжню емпатію.
Запитайте себе: чи готові ви визнати свого наступного фінансового радника, суддю чи вчителя вашої дитини «особою» з власними правами? Якщо ми не приймемо це рішення зараз, через десять років його приймуть за нас. І зробить це не людина, а той, хто вже охрестив нас «спостерігачами».
огляд зробив – Maksym Kopystko
