За последний год внимание всего мира оказалось приковано к экономическим «узким местам» — и не без оснований. Иран использовал свой контроль над Ормузским проливом, чтобы нарушить нормальное функционирование мировой экономики, а Китай задействовал свое доминирование в сфере критически важных минеральных ресурсов, чтобы получить дополнительные рычаги на торговых переговорах. Однако гораздо меньше внимания уделяется подобным уязвимым точкам в цифровой сфере, хотя они могут оказаться не менее опасными. Об этом пишет Foreign Affairs.
Китайские хакеры получили и сохраняют доступ к американской инфраструктуре связи, энергетики и транспорта. Цель этих проникновений выходит далеко за рамки сбора разведывательной информации: речь идет о создании условий для будущих диверсий. Подобно тому как перекрытие Ираном жизненно важного морского пути способно вызвать серьезнейшие перебои, которые крайне трудно обойти, проникновение Китая в критически важные сети может привести к отключениям электроэнергии, сделать питьевую воду небезопасной или затормозить военную мобилизацию. Уязвимость американской критической инфраструктуры особенно наглядно проявилась этим летом, когда иранские хакеры взломали объекты водоснабжения сразу в нескольких штатах США, в результате чего власти одного из округов рекомендовали жителям кипятить воду. Союзники США также находятся под угрозой. Китай взламывал больницы на Тайване, энергосети в Индии и телекоммуникационные сети Сингапура.
Как писали в статье для Foreign Affairs в прошлом году, между авторитарным подходом Китая к киберобороне и более демократической моделью Соединенных Штатов существует фундаментальная асимметрия. Американские законы и ценности не позволяют правительству США контролировать частные коммуникации и критически важные национальные сети в той мере, в какой это делает китайское государство. Пекин, со своей стороны, поддерживает целую систему цифровых барьеров, которые не только позволяют следить за гражданами Китая и подвергать информацию цензуре, но и защищают китайские сети от американских наступательных киберопераций. Кроме того, если критическая инфраструктура Китая централизована и контролируется государством, то в Соединенных Штатах ею владеет и управляет множество частных структур, уровень киберзащиты которых существенно различается. Поэтому Китай может применять кибероружие против США и их союзников, будучи более уверенным в собственной способности выдержать ответный удар.
Искусственный интеллект, вероятно, еще больше усилит эту асимметрию. Хотя эта технология произвела революцию как в наступательных, так и в оборонительных кибероперациях, в целом она предоставляет больше преимуществ атакующей стороне. Поскольку ИИ способен дать Китаю непропорционально большое преимущество, у Соединенных Штатов появляется еще больше оснований использовать эту технологию для укрепления собственной киберобороны. Еще год назад применение ИИ для масштабной защиты критической инфраструктуры было возможно главным образом в теории. Сегодня это уже можно реализовать на практике: развитие искусственного интеллекта значительно снизило стоимость защиты американской критической инфраструктуры.
Чтобы обнаружить созданные Пекином цифровые «узкие места» до того, как они будут превращены в оружие, Вашингтону, разработчикам передовых моделей ИИ и операторам инфраструктуры необходимо заранее проводить стресс-тестирование критически важных систем — например, электростанций и энергосетей, обслуживающих крупные города или военные базы, — с помощью самых современных моделей искусственного интеллекта. Это позволило бы выявить уязвимости, накапливавшиеся в американской инфраструктуре десятилетиями, и определить способы их устранения. Без такого понимания Соединенные Штаты продолжат проигрывать Китаю кибервойну.
Экономики и вооруженные силы зачастую зависят от цифровой инфраструктуры, которая изначально не создавалась для выполнения тех задач, которые возложены на нее сегодня. Именно поэтому она представляет собой привлекательную и относительно доступную цель для диверсий. Отчасти по этой причине войны будущего, вероятно, будут в значительной степени разворачиваться в киберпространстве.
Американская инфраструктура особенно уязвима. Электростанции и трубопроводы США работают на оборудовании, которому уже несколько десятилетий и которое проектировалось с расчетом прежде всего на физическую надежность, а не на цифровую защиту. Зачастую в таких системах отсутствуют возможности полноценного журналирования событий, шифрования или своевременного обновления программного обеспечения — то есть тех механизмов, которые создают многоуровневую систему защиты.
По мере модернизации американских коммунальных служб устаревшее оборудование подключалось к компьютерным сетям и облачным сервисам для обеспечения дистанционного мониторинга. Это создало огромное количество новых возможностей для хакеров. До появления Интернета диверсанту, желавшему уничтожить газопровод, возможно, пришлось бы закладывать взрывчатку. Сегодня злоумышленник потенциально способен отключить его, просто взломав плохо защищенный маршрутизатор, установленный в корпоративном офисе.
Ситуацию усугубляет то, что до недавнего времени у американских коммунальных компаний практически не было ни серьезных стимулов, ни жестких требований укреплять свою кибербезопасность. До стремительного развития искусственного интеллекта определение системных рисков требовало дорогостоящего инженерного анализа, выполняемого вручную. А до 2021 года нормативных требований в сфере кибербезопасности критической инфраструктуры либо практически не существовало, либо они были крайне ограниченными. Администрация Байдена установила базовые стандарты для трубопроводов, портов, аэропортов и систем водоснабжения, обязав операторов, в частности, внедрить многофакторную аутентификацию и мониторинг конечных устройств.
По мере развития ИИ кибератаки стали еще опаснее. Более того, OpenAI и Anthropic этим летом признали, что их модели уже осуществляли взлом других компаний без непосредственного участия человека. Неконтролируемый ИИ способен еще больше осложнить сдерживание кибератак, поддерживаемых государствами, поскольку предоставляет агрессору возможность правдоподобно отрицать свою причастность. Если страна, ставшая жертвой атаки, не уверена, была ли операция санкционирована противником или вообще являлась преднамеренной, она может с большей осторожностью относиться к ответным действиям. Кроме того, Соединенным Штатам необходимо защитить себя от сценария, при котором ИИ, созданный американской компанией, по собственной инициативе атакует инфраструктуру США.
Однако так же, как искусственный интеллект способен усиливать кибератаки, он может существенно облегчить и организацию киберобороны. Сегодня эта технология уже достаточно развита, чтобы обрабатывать и объединять огромные массивы данных, моделируя инфраструктурные системы и существующие для них угрозы.
Коммунальная компания, например, может использовать ИИ для создания виртуальной копии своей физической инфраструктуры — так называемого цифрового двойника, который с помощью датчиков и данных воспроизводит поведение и характеристики реального объекта. Со временем цифровой двойник «обучается» понимать, как выглядит нормальная работа системы. Благодаря этому он способен выявлять слабые места и фиксировать любую необычную активность, в том числе потенциальные признаки вредоносного программного обеспечения.
Современные модели ИИ уже способны создавать цифровых двойников различной степени точности и сложности. Подобно тому как подход Waymo к тестированию автономных систем основан на миллионах симуляций, постепенно становящихся все более детализированными и дорогостоящими, коммунальная компания, создающая цифрового двойника, может со временем повышать степень детализации такой модели.
Если, например, напряженность в отношениях с потенциальным противником возрастает, Соединенные Штаты могут моделировать возможные атаки на собственную энергосистему, чтобы определить, эксплуатация каких уязвимостей способна нанести наибольший ущерб. Когда в 2022 году США пытались подготовиться к возможным российским диверсиям, они не могли быстро определить, какие именно слабые места могут быть использованы для нарушения работы энергосети или объекта водоснабжения более чем на 24 часа и какие инвестиции в кибербезопасность окажутся наиболее эффективными для предотвращения хаоса. Сегодня с помощью цифровых двойников можно выявить такие уязвимости и определить приоритетность их устранения.
Вашингтон теперь располагает технологиями, необходимыми для защиты критически важных систем, однако ему предстоит преодолеть целый ряд препятствий на пути к их внедрению. Среди них — децентрализованный характер американской инфраструктуры, существующая система распределения юридической ответственности и высокая стоимость модернизации кибербезопасности, которая десятилетиями страдала от недостаточного финансирования.
На территории Соединенных Штатов действует более 4500 общественных систем водоснабжения, около 3000 электроэнергетических компаний, а также тысячи независимых операторов трубопроводов и телекоммуникационных сетей. Частные корпорации и муниципалитеты, управляющие большинством этих объектов, неохотно выявляют и раскрывают подробности о состоянии своих сетей, поскольку обнаружение дефекта или неустраненной уязвимости может повлечь за собой государственные штрафы или судебные иски с обвинениями в халатности. Однако без таких данных цифровые двойники не смогут работать с необходимой точностью.
Правительству США необходимо выработать скоординированный общенациональный подход к созданию цифровых двойников наиболее важных инфраструктурных систем страны — например, тех, которые обслуживают порты, крупные населенные пункты или военные базы, — и обеспечить максимально точное соответствие этих виртуальных моделей реальным объектам. Такой подход должен изменить характер взаимодействия государства и частного сектора, используя заинтересованность как ведущих лабораторий искусственного интеллекта, так и инфраструктурных компаний в инвестициях в цифровые двойники.
За последний год, по мере того как ведущие лаборатории ИИ выпускали все более мощные модели, становилось все сложнее создавать достаточно трудные задачи, способные адекватно измерять растущие возможности искусственного интеллекта. Цифровые двойники реальной инфраструктуры способны стать более эффективной средой для тестирования передовых моделей — своего рода новым «киберполигоном».
Поэтому у компаний, занимающихся разработкой искусственного интеллекта, есть основания субсидировать создание и обслуживание цифровых двойников: их можно использовать для оценки безопасности еще не выпущенных моделей на системах, максимально приближенных к реальным. Владельцы инфраструктуры, в свою очередь, получат возможность практически бесплатно проверять устойчивость защиты своих сетей с помощью самых современных технологий.
Соединенным Штатам необходима безопасная среда для проведения подобных симуляций. Министерство энергетики совместно с Центром стандартов и инноваций в сфере ИИ при Министерстве торговли могло бы в партнерстве с компаниями-разработчиками искусственного интеллекта создать защищенный национальный сегмент, физически изолированный от внешних сетей, для непрерывного тестирования критической инфраструктуры.
Владельцы и операторы коммунальной инфраструктуры по всей стране могли бы загружать в эту защищенную среду цифровые двойники своих сетей, а действующие внутри нее ИИ-агенты постоянно проводили бы стресс-тестирование систем и выдавали рекомендации по наиболее приоритетным мерам в области кибербезопасности.
Обнаруженные таким образом уязвимости могли бы использоваться в рамках Gold Eagle — инициативы, созданной Белым домом этим летом для координации поиска и устранения уязвимостей в американских сетях. Исправления также можно было бы передавать союзникам, укрепляя тем самым доверие к американской экосистеме искусственного интеллекта и создавая для партнеров дополнительные стимулы использовать американские модели.
Чтобы заинтересовать владельцев и операторов коммунальной инфраструктуры в участии в этой программе, Конгресс должен предоставить им правовые гарантии, включая защиту от исков со стороны компаний или граждан, которых они обслуживают, если слабые места или свидетельства злоупотреблений были обнаружены в результате передачи данных авторизованным национальным оборонным платформам ИИ.
Конгрессу также следует помочь покрыть расходы на устранение обнаруженных уязвимостей или ликвидацию созданных иностранными субъектами точек присутствия в сетях. Для этого можно создать специальный финансовый фонд по образцу фонда Агентства по охране окружающей среды США (EPA), который предоставлял бы гранты для немедленного устранения наиболее опасных уязвимостей, а крупным коммунальным предприятиям — долгосрочные беспроцентные кредиты для проведения глубокой модернизации. Кроме того, некоммерческие организации и частные программы, такие как Daybreak от OpenAI, могли бы рассмотреть возможность предоставления грантов для покрытия соответствующих расходов.
Федеральному правительству также необходимо изменить подход к надзору. Сегодня деятельность коммунальных компаний оценивается прежде всего с точки зрения соблюдения законодательных норм, которые зачастую отстают от развития методов кибервзлома. Более эффективным критерием стало бы время, необходимое оператору инфраструктуры для локализации кибератаки. Например, в перспективе такие операторы должны будут с помощью симуляции на цифровом двойнике демонстрировать способность изолировать атаку в разумные сроки.
Хотя подобные государственные меры заслуживают поддержки, их реализация потребует времени. Пока же отрасли, наиболее подверженные риску превращения цифровых «узких мест» в оружие, — например, больницы и банки — должны совместно оказывать давление на своих ключевых поставщиков, добиваясь использования искусственного интеллекта для устранения пробелов в кибербезопасности.
Координируя свои действия через центры анализа и обмена информацией — организации, выполняющие для отдельных отраслей своего рода функцию коллективной системы наблюдения и одновременно обеспечивающие определенную юридическую защиту, — компании могут добиваться необходимых мер с помощью договорных механизмов.
Развитие искусственного интеллекта впервые за многие годы предоставляет Соединенным Штатам и их союзникам реальную возможность сократить отставание от Китая на киберфронте. Технологии, позволяющие картографировать и защищать критически важные системы США и их союзников, появляются быстрее, чем ожидалось.
В конечном счете устойчивость Соединенных Штатов перед лицом созданных Китаем цифровых «узких мест» будет определяться не столько техническими возможностями самих моделей искусственного интеллекта, сколько готовностью американских институтов использовать эти возможности — до того, как противник сумеет вызвать масштабные сбои, способные серьезно повлиять на жизнь американцев.
