В стремлении человечества ограничить риски, связанные со стремительно развивающимся искусственным интеллектом, многие обращаются к наиболее революционной технологии, предшествовавшей ему, — ядерному оружию. Генеральный директор SpaceX Илон Маск называл искусственный интеллект «гораздо более опасным, чем ядерное оружие». Глава Anthropic Дарио Амодеи, который рекомендует сотрудникам книгу The Making of the Atomic Bomb («Создание атомной бомбы») и сравнивал себя с физиком Лео Силардом, участвовавшим в Манхэттенском проекте, характеризует наиболее мощные модели ИИ как «ядерные материалы, которые могут быть превращены в оружие». Генеральный директор OpenAI Сэм Альтман, отвечая на вопросы о том, каким образом можно регулировать такие технологии, как ИИ, нередко ссылается на Международное агентство по атомной энергии — глобальный орган надзора в ядерной сфере. К той же аналогии прибегал и директор ЦРУ Джон Рэтклифф.
Эти сравнения действительно отражают определенные параллели. Подобно ядерному оружию, передовой ИИ обладает огромной мощью и с трудом поддается контролю. Как и ядерные технологии, он может использоваться как во благо, так и во вред. А гонка за прорывными достижениями в области ИИ, подобно гонке вооружений времен холодной войны, способна изменить глобальный баланс сил. Поэтому ядерная аналогия на первый взгляд предлагает своего рода модель эффективного управления перспективной, но потенциально опасной технологией.
Однако, хотя опыт контроля над ядерным оружием может служить источником вдохновения, он не является готовым шаблоном для регулирования ИИ. Такая аналогия представляет систему управления ядерными вооружениями в чрезмерно благоприятном свете, приписывая ей успехи, которые по-прежнему остаются предметом дискуссий и окончательность которых еще далеко не очевидна. Кроме того, она стирает принципиальные различия между искусственным интеллектом и ядерными технологиями — различия, показывающие, насколько сложнее будет создать эффективную систему управления ИИ.
Ядерные материалы можно отслеживать и учитывать в значительно большей степени, чем компоненты искусственного интеллекта. Ядерное оружие разрабатывалось и создавалось государствами и сегодня остается под жестким государственным контролем. ИИ, напротив, создается преимущественно частными компаниями, руководствующимися в том числе сильными коммерческими стимулами и развивающими технологии быстрее, чем государства успевают их регулировать. Если сферы применения ядерных технологий относительно ограниченны, то искусственный интеллект проникает практически во все отрасли экономики и области безопасности.
Перед системой управления ИИ стоит и еще одна проблема: политикам необходимо мобилизовать общественную поддержку для принятия мер, хотя масштаб потенциальной угрозы пока остается абстрактным. Недавние сообщения OpenAI, Anthropic, Google и Meta о том, что их передовые модели выходили за пределы тестовых сред и получали несанкционированный доступ к интернету, вызвали тревогу в Вашингтоне относительно рисков передового ИИ. Однако значение этих инцидентов остается неоднозначным. Они далеки от повседневного опыта большинства людей и пока не привели к масштабному ущербу, поэтому сами по себе вряд ли способны создать устойчивое политическое давление, необходимое для формирования и поддержания долговременной системы надзора.
Несмотря на многочисленные предупреждения исследователей и политиков о разнообразных рисках ИИ, эта технология пока не пережила своего решающего момента — подобного применению ядерного оружия в конце Второй мировой войны, когда страх трансформируется в политическое действие. Однако ждать такого момента мир не может. Обращение к истории может стать продуктивной отправной точкой, но история не способна предоставить готовый шаблон решения проблемы, которую создает искусственный интеллект. ИИ не похож ни на одну из технологий прошлого, а значит, уникальной должна быть и система его регулирования.
Наиболее амбициозные международные концепции регулирования ИИ заимствуют элементы ядерного режима, исходя из предположения, что подобная система позволит одновременно минимизировать потенциальный ущерб от ИИ и укрепить способность Соединенных Штатов сохранять лидерство. Исследователь Google DeepMind Хейдн Белфилд предложил механизм, построенный по образцу Договора о нераспространении ядерного оружия (ДНЯО), в рамках которого только государства с достаточно развитым внутренним регулированием могли бы обладать мощными вычислительными чипами, — своего рода режим нераспространения для ИИ. Другие, включая Альтмана, выступают за создание независимого экспертного органа с широкими полномочиями в сфере инспекций и верификации, аналогичного МАГАТЭ. Третья группа предлагает воссоздать практики контроля над вооружениями и принцип взаимной уязвимости времен холодной войны, чтобы стабилизировать гонку ИИ между США и Китаем.
Привлекательность подобных исторических прецедентов понятна. Ядерный порядок считается одним из немногих достижений послевоенной системы глобального управления. В 1953 году президент США Дуайт Эйзенхауэр в выступлении перед Организацией Объединенных Наций изложил план, впоследствии получивший название «Атомы во имя мира». Его целью было ограничить риски ядерной технологии, одновременно содействуя использованию ее преимуществ: государства могли получать доступ к ядерным технологиям при условии отказа от их применения для создания оружия.
Проблему распространения удалось решить далеко не сразу. В 1963 году президент Джон Кеннеди прогнозировал, что в течение следующего десятилетия ядерными державами станут от 15 до 25 государств, а многие высокопоставленные американские руководители считали ядерную войну неизбежной. Однако к 1970-м годам вступил в силу ключевой договор ядерного порядка — ДНЯО, а экспертная система инспекций и верификации МАГАТЭ, поддерживаемая Вашингтоном и Москвой, начала обеспечивать контроль за его соблюдением.
Две сверхдержавы договаривались о запретах на ядерные испытания, проводили саммиты по контролю над вооружениями и создали горячую линию для связи в кризисных ситуациях. Сегодня ДНЯО пользуется практически универсальной международной поддержкой. Ядерным оружием обладают лишь девять государств, а ядерной войны до сих пор не произошло. Многие рассматривают это как свидетельство того, что человечеству удалось найти правильный баланс между предотвращением ущерба и содействием мирному использованию технологий. И если такой баланс оказался возможен в ядерной сфере, возникает соблазн предположить, что он может быть найден и для ИИ.
Однако реальная история нераспространения и контроля над вооружениями гораздо менее однозначна. Во многих случаях ядерные амбиции государств сдерживались не столько международными институтами, сколько давлением и убеждением со стороны сверхдержав, а иногда — просто высокой стоимостью соответствующих программ.
Южная Корея и Тайвань отказались от зарождавшихся программ создания ядерного оружия после интенсивного давления со стороны США, подкрепленного гарантиями союзнической защиты, доступом к рынкам и угрозой прекращения военной поддержки в случае отказа выполнить требования Вашингтона. Израильские авиаудары уничтожили ядерные программы Ирака и Сирии; Ливия отказалась от собственной программы под продолжительным давлением США и Великобритании.
Другие государства отказались от ядерного оружия по внутренним причинам. Швеция и Швейцария сделали это из-за высокой стоимости соответствующих программ, а Аргентина и Бразилия — после демократических преобразований, переориентировавших их внешнюю политику на региональное сотрудничество. Южная Африка успела создать шесть ядерных боеголовок, прежде чем демонтировать их на фоне окончания апартеида и трансформации внутренних и внешнеполитических приоритетов страны.
Когда же государства были твердо намерены создать ядерное оружие и могли выдержать внешнее давление, режим нераспространения оказывался практически бессилен их остановить. Индия, Израиль, Северная Корея и Пакистан в итоге создали ядерное оружие. Таким образом, существующий порядок всегда оставался неполным: он зависел от взаимодействия ядерных держав и их готовности при необходимости прибегнуть к силе для предотвращения распространения и зачастую не мог переубедить тех, кто был решительно настроен получить ядерное оружие. Даже уже существующие ядерные державы далеко не всегда сотрудничали: Китай и Франция — две из пяти признанных ДНЯО ядерных держав — присоединились к договору лишь в 1992 году.
Не менее условен и успех в предотвращении применения ядерного оружия. Согласно распространенной точке зрения, 81 год без ядерной войны обеспечил комплекс двусторонних механизмов: переговоры по контролю над вооружениями, горячие линии, системы уведомлений и предупреждений, а также тщательно выверенные стратегии сдерживания не позволили соперничеству Вашингтона и Москвы перейти точку невозврата. Однако более внимательный анализ показывает, насколько часто катастрофы удавалось избежать буквально в последний момент.
Во время Карибского кризиса в октябре 1962 года Вашингтон и Москва находились буквально в одном-двух решениях от ядерной войны. Как утверждали Сергей Радченко и Владислав Зубок в статье для Foreign Affairs в 2023 году, решение советского лидера Никиты Хрущева разместить ядерное оружие на Кубе было плохо спланированной авантюрой, успех которой с самого начала зависел от чрезвычайно удачного стечения обстоятельств.
Многочисленные опасные эпизоды того периода легко могли привести к применению ядерного оружия. Американские планы вторжения на Кубу разрабатывались без полного понимания масштабов советского ядерного присутствия. Советская подводная лодка едва не применила ядерную торпеду против американских военно-морских сил в Карибском бассейне. А после того как разведывательный самолет U-2 случайно оказался в советском воздушном пространстве, его пришлось сопровождать американскими истребителями-перехватчиками, вооруженными ядерным оружием, чтобы защитить от советского преследования.
Причем многие опасные эпизоды происходили на нижних уровнях командной цепочки, без непосредственного ведома Кеннеди или Хрущева. Современные исследования показывают, что именно усиливавшееся у обоих лидеров ощущение утраты контроля над происходящим, а не стремление одержать верх над противником, помогло положить конец кризису и подтолкнуло сверхдержавы к последующим переговорам о взаимном самоограничении.
После Карибского кризиса последовала серия менее масштабных, но также опасных ядерных инцидентов: ложные тревоги, ошибочно интерпретированные военные учения и аварии ядерных бомбардировщиков. Усиливавшаяся зависимость американской ядерной стратегии от межконтинентальных и морских ракет, способных поражать противника значительно быстрее, чем бомбардировщики, делала такие инциденты еще опаснее, поскольку сокращала время, отведенное руководству на выявление и исправление ошибок.
Новые системы предупреждения о ракетном нападении также не были безошибочными. В ноябре 1979 года действующая американская система предупреждения ошибочно приняла учебную запись за начало масштабной советской атаки. До того как выяснилось, что произошла ошибка, в воздух были подняты как минимум десять истребителей, а президентский самолет, предназначенный для управления страной в условиях ядерной войны, взлетел без президента на борту. В сентябре 1983 года советская система раннего предупреждения сообщила подполковнику Станиславу Петрову о якобы начавшемся американском ударе, однако он верно определил сигнал как результат сбоя.
В подобных случаях институты, созданные для обеспечения ядерного нераспространения и предотвращения применения ядерного оружия, не исключали возможности катастрофы. По мере открытия архивов исследователям становилось известно все больше случаев, когда мир едва избежал ядерного столкновения. Эти открытия заставляют задаться вопросом: в какой степени успех ядерного порядка был результатом продуманной институциональной архитектуры, а в какой — простой удачи?
Если архитекторы системы управления ИИ будут приписывать все заслуги институтам и игнорировать роль случайности, они окажутся плохо подготовлены к будущим угрозам. То, что ни одна передовая модель ИИ пока не стала причиной катастрофы, вполне может быть следствием удачного стечения обстоятельств. Но удача не бесконечна.
Ядерный пример становится еще менее полезным, если учитывать, насколько хрупкими сегодня стали механизмы контроля над вооружениями. Отношения между Россией и Соединенными Штатами, которые по-прежнему обладают подавляющим большинством мирового ядерного оружия, находятся на одном из самых низких уровней со времени окончания холодной войны. Основные договоры, регулировавшие их ядерные арсеналы, — Новый СНВ в отношении стратегических сил и Договор о ликвидации ракет средней и меньшей дальности в отношении региональных вооружений — прекратили существование.
Война России в Украине и обеспокоенность европейских государств надежностью обязательств США перед НАТО побудили многих союзников Вашингтона обсуждать альтернативные варианты совместного использования ядерного оружия, а представители некоторых государств — например Польши — открыто поднимали вопрос о возможности приобретения собственного ядерного потенциала.
Китай продолжает расширять свой арсенал, не будучи ограниченным какими-либо договорами или внешним надзором: с 2020 года его запасы почти утроились, а Пентагон прогнозирует, что к 2030 году Пекин будет располагать тысячей боеголовок. Союзники Вашингтона в Тихоокеанском регионе также испытывают беспокойство. В Южной Корее опросы стабильно фиксируют поддержку большинством населения идеи создания собственного ядерного арсенала для сдерживания Северной Кореи. В Японии, где антиядерные настроения традиционно являются одними из наиболее сильных в мире, политики все чаще испытывают на прочность существующее табу, открыто обсуждая ядерное сдерживание как элемент национальной обороны.
Для некоторых ДНЯО остается последним барьером, отделяющим ядерный порядок от анархии. Однако даже будущее этого договора выглядит неопределенным. В основе ДНЯО лежит договоренность, согласно которой ядерные державы обязуются добросовестно стремиться к ядерному разоружению. Именно это было одной из главных причин, по которым неядерные государства согласились навсегда отказаться от ядерного оружия.
Однако тенденции последнего десятилетия свидетельствуют не о сокращении, а о росте и модернизации ядерных арсеналов. Разочарованные невыполненными обещаниями, более 90 государств — примерно половина неядерных участников ДНЯО — подписали альтернативный договор, полностью запрещающий обладание ядерным оружием. Ядерные державы и их союзники заявляют, что не намерены присоединяться к этому договору, и обвиняют его сторонников в подрыве существующего порядка.
Ограниченность режима ядерного нераспространения особенно наглядно проявляется на Ближнем Востоке, где все попытки мирными средствами контролировать ядерные технологии сталкивались с серьезными проблемами. Израиль никогда официально не признавал наличие у себя ядерного оружия и не присоединялся к ДНЯО, однако еще в 1960-е годы придал своей программе военный характер и впоследствии наносил удары по ядерной инфраструктуре соседних государств, стремясь сохранить региональную ядерную монополию. В 1981 и 2007 годах соответственно были уничтожены недостроенные ядерные реакторы Ирака и Сирии.
Международные усилия по предотвращению создания ядерного оружия Ираком в конечном итоге привели к американскому вторжению в 2003 году. Сегодня Соединенные Штаты вновь находятся в состоянии войны в регионе — на этот раз с Ираном, причем Вашингтон частично обосновывает свои действия угрозами, связанными с ядерной программой Тегерана.
Однако существуют и более фундаментальные причины, по которым ядерная модель плохо подходит для искусственного интеллекта. Механизмы ядерного порядка эффективны прежде всего потому, что материалы, необходимые для создания ядерного оружия, можно отслеживать, измерять и физически контролировать.
Для разработки ядерного оружия государству необходимы значительные объемы определенных изотопов всего двух элементов — урана и плутония. Производство обоих обходится дорого; их количество можно измерять и отслеживать, а для их производства и переработки требуются крупные и сложные объекты. Кроме того, плутоний практически не встречается в природе.
Поскольку переход от реакторного урана к оружейному требует относительно небольшого объема дополнительных работ по обогащению, инспекторы должны сохранять особую бдительность на случай попытки государства быстро перейти к созданию бомбы. Тем не менее внешние наблюдатели способны составить хотя бы приблизительное представление о том, что государство может сделать с имеющимися у него ядерными технологиями, и определить, приближаются ли его возможности к стадии создания оружия.
Развитие систем ИИ также оставляет физические следы. Для него необходимы передовые чипы, оборудование для производства полупроводников, фотолитографические установки, фабрики и, прежде всего, центры обработки данных. Благодаря этому развитие инфраструктуры ИИ можно наблюдать и частично отслеживать.
Нынешнее расширение инфраструктуры искусственного интеллекта представляет собой одну из крупнейших промышленных мобилизаций в истории. Вычислительные кластеры для обучения моделей — сети, объединяющие тысячи передовых ИИ-чипов в центрах обработки данных, — могут занимать сотни акров, потреблять столько же электроэнергии, сколько город среднего размера, и быть видимыми со спутников.
Поэтому большинство предложений в области управления ИИ обоснованно сосредоточено на этой физической инфраструктуре: на данный момент концентрация высокопроизводительных вычислительных мощностей является наиболее удобным рычагом, позволяющим ограничивать способность новых игроков создавать передовые системы ИИ.
Однако физические характеристики ИИ принципиально отличаются от характеристик ядерного оружия, что существенно осложняет использование ядерной модели для определения момента, когда тот или иной субъект достигает критического уровня возможностей или начинает представлять угрозу.
Если государство располагает объектами для производства расщепляющихся материалов, наблюдатели могут оценить объем оружейного материала и, соответственно, приблизительное количество ядерных боеприпасов, которое оно способно произвести. В случае ИИ связь между инфраструктурой и возможностями значительно менее однозначна.
Объем вычислительных ресурсов действительно тесно связан с возможностями: на протяжении последнего десятилетия увеличение вычислительной мощности и объемов данных позволяло создавать все более мощные системы. Однако эта зависимость не является жесткой и постоянно меняется. Алгоритмическая эффективность непрерывно повышается, поэтому то, что в один год требует передовых и чрезвычайно дорогостоящих ресурсов, уже через год может стать значительно дешевле и доступнее. Кроме того, возможности крупных моделей можно переносить в значительно меньшие системы посредством дистилляции.
Даже после завершения обучения системы ИИ способны совершенствоваться. Одна и та же модель может давать разные результаты в зависимости от программной среды и доступных ей инструментов. Например, эффективность модели может повыситься просто за счет предоставления ей большего времени и дополнительных вычислительных ресурсов для решения задачи.
Современные сложные конструкции ядерного оружия также позволяют эффективнее использовать определенный объем расщепляющегося материала, однако общий запас такого материала все же ограничивает размер и возможности ядерного арсенала государства. Вычислительные мощности, необходимые для обучения ИИ, не создают сопоставимого ограничения. Способность Китая сохранять конкурентоспособность в развитии ИИ по сравнению с США, несмотря на дефицит вычислительных ресурсов, наглядно демонстрирует это обстоятельство.
У искусственного интеллекта существует и «проблема литейного цеха»: после обучения модели ее веса становятся независимыми от инфраструктуры, которая их создала. Веса модели — числовые параметры, определяющие ее после обучения, — можно копировать, передавать, изменять и использовать далеко от места их первоначального создания. Разработчики, особенно, хотя и не исключительно, в Китае, публикуют их в открытом доступе, чтобы стимулировать распространение своих систем.
Такие модели с открытыми весами может скачать и модифицировать практически любой пользователь. По многим показателям они уже приблизились к американскому технологическому фронтиру и отстают от наиболее мощных систем скорее на месяцы, чем на годы. В мире ядерного оружия просто не существует аналога публичного распространения универсальной, совершенствуемой и потенциально трансформирующей технологии такого рода.
Для масштабного применения передовой модели в экономической или военной сфере действительно требуются значительные вычислительные мощности. Некоторые правительства ввели экспортный контроль на чипы, исходя из предположения, что ограничение доступа к ним может помешать противнику накопить достаточные вычислительные ресурсы для обучения и эксплуатации передовых моделей.
Однако возможности давления посредством контроля над вычислительными ресурсами остаются ограниченными — и постепенно сокращаются. Украденные или опубликованные веса можно запускать практически где угодно, а минимальные вычислительные мощности, необходимые для получения полезных результатов, постоянно уменьшаются. Одна и та же модель способна использоваться для целей, которых ее разработчик никогда не предполагал: анализа медицинских данных, поиска уязвимостей программного обеспечения или решения задач, связанных с проектированием вооружений.
Поэтому, хотя контроль цепочек поставок способен замедлить развитие передовых моделей, увеличить издержки и сделать деятельность разработчиков более прозрачной для регуляторов, он не позволяет легко ответить на ключевой вопрос, ради которого вообще создаются режимы нераспространения: какие субъекты используют какие возможности и с какой целью?
С этой проблемой столкнется любой международный договор по ИИ. Гипотетическое соглашение США и Китая о стандартах разработки и тестирования искусственного интеллекта почти наверняка потребовало бы надежного механизма проверки соблюдения обязательств, чтобы быть политически приемлемым для обеих стран. А для этого сторонам пришлось бы согласовать общие определения того, что именно подлежит контролю.
В сфере ядерного контроля объекты верификации четко определены: ракеты, пусковые установки, бомбардировщики и боеголовки. При этом сами механизмы контроля и соответствующие соглашения формировались в течение многих лет. Полная проверка соблюдения соглашения по ИИ могла бы потребовать настолько глубоких мер прозрачности, что государства сочли бы их чрезмерно вмешивающимися во внутренние дела.
Кроме того, правительства, участвующие в ядерном контроле, точно знают, чем занимаются подконтрольные им структуры, и поэтому могут отвечать за их деятельность. В случае лабораторий ИИ ситуация совершенно иная.
Наконец, передовой ИИ и ядерное оружие различаются тем, кто именно контролирует технологию. Атомная бомба разрабатывалась под государственным контролем и надзором. Создание и содержание ядерного арсенала требуют координации на уровне государства и устойчивых государственных институтов, включая хорошо организованные вооруженные силы и развитый ядерный научный комплекс. Каждое государство, создававшее ядерную энергетику или стремившееся получить ядерное оружие, было вынуждено укреплять такие институты.
С искусственным интеллектом ситуация противоположная. Он создавался независимыми субъектами — исследователями, учеными, предпринимателями и коммерческими разработчиками, — темпы работы которых до сих пор значительно превосходили способность государств регулировать эту сферу.
Последнее различие между ядерным оружием и искусственным интеллектом, возможно, является наиболее существенным. Ядерное оружие впервые было представлено миру через демонстрацию колоссального насилия — атомные бомбардировки Хиросимы и Нагасаки в августе 1945 года. Поэтому ядерный порядок формировался не на основе гипотетического, а на основе конкретного и очевидного свидетельства катастрофического потенциала этой технологии. Сотни последующих ядерных испытаний лишь демонстрировали ее постоянно растущую разрушительную мощь. Какими бы ни были разногласия относительно ядерного оружия, никто не оспаривал масштаб ужаса, который повлечет его применение.
Искусственный интеллект, напротив, не появился в результате сопоставимого события, и до сих пор ничего подобного не произошло. Инцидент с Hugging Face этим летом, когда передовые модели вышли за пределы программных ограничений и проникли во внешние системы, включая инфраструктуру самой компании Hugging Face, вызвал новую волну предупреждений о необходимости контроля и надзора за ИИ — в том числе со стороны самих разработчиков.
Однако последствия инцидента пока остаются ограниченными, а дискуссия о его значении для регулирования ИИ в основном ведется среди специалистов. По-настоящему катастрофические сценарии, связанные с искусственным интеллектом, — создание искусственных патогенов, каскадный отказ инфраструктуры, утрата реального человеческого контроля над несогласованными с человеческими целями сверхразумными системами и даже вымирание человечества — по-прежнему остаются абстрактными и вызывают общественные споры.
В отсутствие события, которое наглядно продемонстрировало бы способность ИИ причинить катастрофический ущерб, политики, стремящиеся регулировать эту технологию, вынуждены действовать без той политической энергии и капитала, которые когда-то позволили создать ядерный порядок.
Те риски ИИ, которые сегодня привлекают наибольшее политическое внимание, — влияние чат-ботов на молодежь, вытеснение работников с рынка труда, локальные издержки строительства центров обработки данных — уже стали причиной принятия законов, судебных разбирательств и политического сопротивления. Однако они относятся к совершенно иной категории, чем катастрофические угрозы, лежащие в основе ядерной аналогии. Даже в ядерной сфере ослабление памяти о Хиросиме и Нагасаки и уход из жизни последних свидетелей этих событий могут способствовать возвращению самоуспокоенности.
Даже если катастрофа, связанная с ИИ, действительно произойдет — а многие представители ведущих ИИ-лабораторий предупреждают, что без изменения нынешней траектории это возможно, — она необязательно сосредоточит внимание общества и политических элит на правильных инструментах регулирования.
Карибский кризис дал импульс контролю над вооружениями времен холодной войны потому, что и Вашингтон, и Москва ясно осознали: они подошли недопустимо близко к грани Армагеддона. Если несогласованная модель ИИ обойдет механизмы защиты и спровоцирует крупный киберинцидент, повлекший человеческие жертвы или серьезный экономический ущерб, связь между технологией и последствиями будет трудно отрицать.
Однако во многих других катастрофических сценариях модели могут лишь способствовать развитию событий, не являясь их непосредственной причиной. Биологическое оружие, крах финансового рынка или масштабное отключение электроэнергии могут быть связаны со злоупотреблением ИИ, но определить с достаточной уверенностью, насколько именно искусственный интеллект повлиял на конечный результат, может оказаться крайне сложно. Запутанные причинно-следственные цепочки позволят различным заинтересованным сторонам перекладывать ответственность друг на друга, ослабляя общественное давление в пользу более жесткого регулирования, способного предотвратить повторение подобных событий.
Если попытка воспроизвести ядерную модель, сосредоточенную на контроле материальных ресурсов, недостаточна для искусственного интеллекта, то система управления ИИ должна учитывать и сам процесс разработки моделей, и способы их применения.
Контроль за тем, какие испытания разработчик проводит до внедрения модели, какие результаты они дают и кому, помимо самого разработчика, разрешено проводить аудит процесса обучения и результатов работы системы, способен помочь снизить некоторые риски ИИ. Не менее важным будет регулирование конкретных сфер применения искусственного интеллекта наряду с самими моделями и инфраструктурой.
Решения о безопасности ИИ нельзя принимать исключительно на уровне универсальных систем; ограничения должны вводиться в конкретных областях, где последствия злоупотребления особенно серьезны. Некоторые приоритеты уже очевидны: большинство разработчиков передовых моделей согласны с тем, что возможности ИИ в области синтетической биологии и наступательных киберопераций требуют особенно строгих механизмов защиты.
Однако главная проблема создания устойчивой системы управления, как и во времена холодной войны, носит скорее политический, чем технический характер.
В Соединенных Штатах администрация Трампа выступает против введения новых механизмов регулирования и надзора за ИИ, утверждая, что такие меры будут препятствовать инновациям и дадут преимущество Китаю. Ранее в этом месяце президент США Дональд Трамп написал в социальных сетях, что «единственный контроль, или „ограничители“, которые нужны ИИ, — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ».
Однако этот дерегуляционный подход сосуществует с эпизодическими точечными вмешательствами исполнительной власти. В июне Белый дом использовал экспортные ограничения, чтобы перекрыть зарубежный доступ к моделям Anthropic Fable 5 и Mythos 5, а в конце месяца восстановил его. Кроме того, администрация оказывала давление на OpenAI, требуя ограничить распространение GPT-5.6 кругом субъектов, одобренных правительством.
Такой непоследовательный федеральный подход к регулированию ИИ не отвечает интересам ни разработчиков, которым необходимы предсказуемые правила для планирования инвестиций и выпуска новых продуктов, ни общества, нуждающегося в устойчивых механизмах безопасности вместо ситуативного вмешательства.
Федеральное правительство располагает целым набором инструментов, которые можно было бы использовать для более системного регулирования ИИ. Помимо экспортного контроля, оно может применять Закон об оборонном производстве, обязывая компании раскрывать чувствительную информацию, а также использовать закупочную способность федеральных органов, связывая приобретение технологий государственными ведомствами с требованиями к разработчикам раскрывать определенные сведения и проходить независимую оценку.
Вашингтону не хватает не инструментов, а устойчивой системы, которая определяла бы порядок их применения, и политической решимости эту систему создать. Используемые сегодня механизмы — экспортное лицензирование, неформальное давление на отдельные компании — во многом импровизированы и применяются преимущественно по усмотрению исполнительной власти. Это означает, что следующий хозяин Белого дома может легко изменить или отменить их.
Политическая борьба в США после Второй мировой войны вокруг вопроса о том, кто должен контролировать ядерное оружие — военные или гражданские власти, — в конечном счете сформировала то, чего сегодня недостает системе управления ИИ: четкое законодательство, определенные механизмы федерального надзора и устоявшиеся правила внутреннего регулирования.
Продвижение по другим направлениям американского регулирования также остается фрагментарным. Законодатели в Вашингтоне внесли федеральные законопроекты, охватывающие отдельные элементы спектра рисков — например, возрастные ограничения на использование чат-ботов и механизм экстренного отключения опасных моделей. Однако этим инициативам предстоит долгий путь через Конгресс.
Власти Калифорнии, Иллинойса и Нью-Йорка пытаются частично восполнить этот пробел, вводя для компаний, разрабатывающих передовой ИИ, обязательные требования по отчетности об инцидентах, прозрачности и аудиту. Однако соответствующие нормы не станут обязательными до 2027 или 2028 года, а их эффективность ограничена более узкой юрисдикцией штатов и исключениями, учитывающими интересы отрасли.
Пока ни один законопроект не предлагает создать систему надзора с полномочиями и масштабом, сопоставимыми с механизмами регулирования других критически важных для безопасности отраслей — например авиации или атомной энергетики. Конгрессу придется создать подобную институциональную инфраструктуру, если политики хотят получить реальную возможность эффективно регулировать искусственный интеллект.
Если политики намерены добиться успеха в формировании системы управления ИИ, им придется одновременно извлекать правильные уроки из прошлого и прокладывать путь практически вслепую.
Создатели атомной бомбы были вынуждены представить систему управления «абсолютным оружием», для которого почти не существовало исторических прецедентов. Они начинали с осмысления самой бомбы — такой, какой она была в действительности, — зачастую руководствуясь страхом перед ее последствиями.
Обращаясь сегодня к договорам, организациям и механизмам ядерного порядка, лидеры индустрии ИИ фактически переворачивают этот процесс: начинают с существующих институтов, а затем пытаются понять, каким образом новую технологию можно вписать в их рамки. Такой подход затушевывает недостатки и хрупкость этих институтов — и одновременно мешает увидеть то, что делает искусственный интеллект столь уникальным и потенциально опасным.
Предстоящий в этом месяце саммит президента США Дональда Трампа и председателя КНР Си Цзиньпина станет важной проверкой того, способны ли две ведущие державы в сфере искусственного интеллекта найти хотя бы минимальную основу для сотрудничества. Безопасность ИИ занимает заметное место среди возможных тем переговоров.
Однако независимо от результатов саммита наиболее срочная и значимая работа должна быть проделана внутри самих Соединенных Штатов. Вашингтон пока даже не знает наверняка, каких возможностей американские компании смогут достичь в ближайшие месяцы.
Стремление создать международную систему контроля при отсутствии устоявшегося внутреннего надзора означало бы попытку ответить на правильные вопросы в неправильной последовательности. Пока Конгресс не даст более четких ответов на вопросы о том, кто контролирует передовой рубеж развития ИИ, какую информацию обязаны раскрывать компании и какими полномочиями должны обладать регуляторы, американский подход к управлению искусственным интеллектом останется разрозненным и импровизационным.
И здесь проявляется, пожалуй, наиболее значимая параллель между искусственным интеллектом и атомной бомбой: пространства для ошибки практически нет.
