Найближчі союзники Америки перебувають у стані шоку
«Настав час вийти за межі прозорості до серйознішого та обов’язкового регулювання ШІ», — написав 10 червня Даріо Амодей (на фото), керівник Anthropic, провідної лабораторії штучного інтелекту. Його фірма щойно випустила Fable — обмежену версію свого передового Mythos (великої мовної моделі), яка могла виконувати надлюдські завдання зі злому, а також інші небезпечні операції. Те, що сталося 12 червня, він навряд чи мав на увазі. Вдруге за чотири місяці адміністрація Трампа пізно в п’ятницю ввечері скинула бомбу на Anthropic.
Пославшись на міркування національної безпеки, вона наказала фірмі заборонити будь-яким неамериканцям, включно з власним персоналом, доступ до її новітніх моделей Fable 5 і Mythos 5. У відповідь Anthropic призупинила їхнє використання повністю. Наказ, як і незграбна спроба уряду наприкінці лютого визначити Anthropic як ризик для ланцюга постачання, став повною несподіванкою і майже без пояснень. Він сколихнув світ ШІ та союзників Америки.
Сторони по-різному трактують події, що передували втручанню. За повідомленнями, Енді Джессі, генеральний директор Amazon, інтернет-гіганта, який має значну частку в Anthropic, попередив адміністрацію Трампа, що виявив у Fable 5 прогалини в безпеці, які дозволяють «зламувати» (jailbreak), тобто обходити обмеження, що робили модель менш потужною, ніж Mythos. Девід Сакс, радник Білого дому, написав у X, що уряд попросив пана Амодея «виправити злам або вилучити» Fable, додавши: «Даріо відмовився».
Джерело в Anthropic повідомило, що фірмі було наказано заблокувати доступ до моделей для «іноземців» через невизначену загрозу національній безпеці. Незабаром Anthropic припинила їхню роботу, вирішивши, що це єдиний спосіб виконати директиви. Компанія не згадувала про нібито відмову пана Амодея виправити злам.
Не було одразу зрозуміло, на яких правових підставах уряд запровадив призупинення. Anthropic заявила, що моделі потрапили під директиву експортного контролю. Чарлі Буллок з Інституту права та ШІ, аналітичного центру, припускає, що уряд використав Правила адміністрування експортного контролю Міністерства торгівлі, які також використовуються для обмеження продажу чіпів ШІ Китаю.
Але основною метою уряду могло бути не обмеження доступу іноземців до передових моделей. Натомість він, схоже, використав експортний контроль як зручний спосіб вплинути на Anthropic. Якщо так, іноземці можуть бути супутніми втратами в боротьбі між адміністрацією Трампа та провідним розробником моделей, якого президент Дональд Трамп одного разу назвав «радикально лівою ШІ-компанією, що вийшла з-під контролю». 13 червня Піт Хегсет, військовий міністр Америки, похвалився, що три місяці тому він «вигнав Anthropic» з Пентагону. «Кожен наступний день доводить, що це було правильне рішення».
Залишається питання, наскільки серйозною насправді була загроза зламу. Anthropic заявила, що використані методи виявили лише «невелику кількість раніше відомих, незначних вразливостей», які могли виявити й конкуруючі моделі ШІ. Джерело в Anthropic додало, що фірма співпрацювала з урядом у передрелізному тестуванні, і чиновники раніше не висловлювали жодних занепокоєнь щодо нацбезпеки. Кеті Муссуріс, провідний авторитет у галузі вразливостей програмного забезпечення, яка ознайомилася з документом Amazon, що викликав галас, стверджує, що методи були спрямовані насамперед на допомогу кіберзахисникам. Виправлення вразливостей, за її словами, зробило б модель менш корисною для кіберзахисту.
Відрізання доступу є геополітичним вододілом. Воно нагадує рішення Америки обмежити публічну криптографію — технологію захисту цифрових комунікацій — з 1970-х до 1990-х років. Тоді уряд стверджував, що криптографія подібна до боєприпасів; одного розробника ФБР розслідувало за порушення Правил міжнародної торгівлі зброєю. Зрештою перемогли захисники громадянських свобод, забезпечивши право використовувати, продавати та експортувати більшість систем шифрування.
Шифрування було потужною технологією, але вузькою за застосуванням. ШІ набагато потужніший і універсальніший. 11 червня Марк Ворнер, заступник голови сенатського комітету з розвідки, повідомив, що генерал Джошуа Радд, який очолює Агентство національної безпеки та Кіберкомандування Пентагону, сказав йому, що Mythos «зламав майже всі наші засекречені системи не за тижні, а за години».
Передовий ШІ відрізняється від шифрування ще в одному аспекті. Хоча криптографія зрештою стала широко доступною за кордоном, сьогодні Америка має явну перевагу в ШІ. Китай, стримуваний американським контролем над чіпами, імовірно, відстає приблизно на рік. Ця перевага може стати незаперечною, якщо Anthropic або інші американські лабораторії зламають рекурсивне самовдосконалення (RSI), коли моделі пишуть кращі версії самих себе і тим самим прискорюють прогрес. Багато інсайдерів вважають це цілком можливим.
Тоді кращою аналогією може бути ядерна технологія — порівняння, яке надихало, захоплювало та жахало дослідників ШІ. Під час Другої світової війни Британія ділилася своїми ранніми дослідженнями ядерної зброї з Америкою. Але в 1946 році, після закінчення війни та демонстрації величезного потенціалу бомби в Японії, Конгрес ухвалив Закон Макмагона, припинивши співпрацю з усіма іноземними державами — навіть із найближчими союзниками Америки. Повноцінна співпраця відновилася набагато пізніше, після того як Британія вже показала, що здатна створити власну бомбу.
Союзники Америки зараз знову в шоці. Багато хто місяцями домагався доступу до Mythos для державних відомств, банків і компаній. Ці дозволи випарувалися за одну ніч. Відрізання не робить винятку ні для кого, навіть для партнерів Америки у розвідувальному альянсі «П’ять очей»: Австралії, Британії, Канади та Нової Зеландії. Ці країни вже борються із втратою ключових повноважень зі спостереження, які Конгрес нещодавно не зміг поновити. Втрата доступу до Mythos ставить їх в один човен із Росією, Китаєм чи Іраном. Британський Інститут безпеки ШІ, провідний у світі орган із тестування та зламу нових моделей, також заблокований.
Деякі закордонні політики розглядають цей крок як «будильник». «Після такого чіткого уроку кожна країна ставитиме питання, що їй потрібно для досягнення суверенітету», — стверджує Том Тугендхат, колишній міністр безпеки Британії. Але європейці та інші середні держави опинилися у скрутному становищі, пише Антон Лейхт із Фонду Карнегі. «Як ви думаєте, адміністрація Трампа, яка щойно відмовила вам у доступі до Fable, дозволить вам купити достатньо передових чіпів, щоб самостійно навчити необмежений клон Fable?»
Розвідувальні служби, ймовірно, знову отримають доступ до Mythos, каже один колишній британський офіцер розвідки; переговори вже ведуться. Приватним фірмам буде складніше. Навіть так деякі спостерігачі вважають, що американському уряду зрештою доведеться поступитися. «Союзники можуть знайти певну втіху в тому, що це абсолютно неприйнятний підхід у довгостроковій перспективі через кількість іноземців в американських ШІ-компаніях», — каже Гелен Тонер із Центру безпеки та нових технологій Джорджтаунського університету. «Заборона доступу до моделей для іноземців фактично еквівалентна забороні будь-якій постраждалій компанії проводити подальші дослідження та розробки в галузі ШІ».
Політика адміністрації також може виявитися неефективною. На чорному ринку хакери можуть купити американські посвідчення особи, щоб отримати доступ до моделей ШІ, а також інструменти для їх зламу, каже Синтія Кайзер, колишня співробітниця кіберпідрозділу ФБР. Anthropic вже обмежує використання своєї моделі Claude у Китаї, однак китайські користувачі все одно отримують до неї доступ відносно легко.
Останніми місяцями пан Трамп проводив заплутану політику щодо ШІ. Він скасував більшість нормативних актів, введених попередньою адміністрацією, над якою неодноразово глузував. Пізніше він дозволив продаж передових чіпів ШІ Китаю. У квітні його невтручальний підхід до безпеки ШІ був поставлений під сумнів, коли Anthropic створила Mythos Preview — модель, яку фірма вважала настільки загрозливою для нацбезпеки, що обмежила її випуск невеликою групою схвалених клієнтів. 2 червня пан Трамп видав виконавчий наказ, який передбачає добровільну систему, за якою лабораторії ШІ надаватимуть уряду доступ до своїх найсучасніших моделей незадовго до випуску.
Раптовий і свавільний характер обмежень адміністрації щодо Fable 5 і Mythos 5 не відповідає такому підходу — і є далеким від послідовного та прозорого контролю, який пропагував пан Амодей. Теоретично Центр стандартів та інновацій ШІ — державний орган, який перевіряє передові моделі на небезпечні можливості, — міг би слугувати незалежним арбітром у таких суперечках. Але останніми днями адміністрація наказала йому припинити публікувати публічні звіти. Оскільки доступ до передового ШІ стає питанням національної безпеки, управління ним в Америці стає дедалі більш непрозорим.
