Компания Anthropic отказалась предоставить свою новейшую модель британскому Институту безопасности искусственного интеллекта (AI Security Institute, AISI) для тестирования до ее официального выпуска. Это вызвало опасения в правительстве Великобритании, что технологические компании начинают следовать протекционистской политике администрации Дональда Трампа в сфере ИИ.
Компания, стоимость которой приближается к $1 трлн и которая готовится в ближайшие недели провести масштабное первичное публичное размещение акций (IPO), на прошлой неделе представила свою новейшую модель Claude Mythos 5.1. Anthropic позиционирует ее как свою наиболее продвинутую разработку в области биологических наук и кибербезопасности.
Однако впервые доступ к модели получили исключительно прошедшие проверку американские организации. Британский AISI — один из мировых лидеров в тестировании передовых ИИ-моделей — в их число не вошел.
Решение не предоставлять AISI доступ к модели до ее выпуска вызвало тревогу в Уайтхолле и внутри самого института, который превратился в один из наиболее влиятельных активов Великобритании в глобальной гонке искусственного интеллекта, сообщили представители британского правительства.
«У чиновников, отвечающих за национальную безопасность, есть опасения. Mythos 5.1 они определенно не тестировали. Это вызывает тревогу… Они опасаются, что это может стать признаком новой тенденции, при которой AISI больше не будет получать доступ к самым современным моделям», — заявил источник в британском правительстве.
В последние месяцы администрация президента США Дональда Трампа заняла все более ограничительную позицию в отношении индустрии искусственного интеллекта. С помощью масштабных мер экспортного контроля Вашингтон временно ограничивал доступ ко многим наиболее передовым моделям Anthropic для всех иностранных граждан, включая сотрудников американских ИИ-компаний.
По словам источника, некоторые чиновники в Уайтхолле считают, что Anthropic могла не предоставить AISI доступ к обновленной Mythos по просьбе американской администрации. Однако эти подозрения пока не получили подтверждения.
При этом AISI, созданный три года назад, получил предварительный доступ к новейшей модели OpenAI Astra еще до ее выхода в этом месяце.
Anthropic отказалась от комментариев. На прошлой неделе компания заявила, что «координирует свои действия с правительством США, чтобы как можно быстрее расширить доступ для более широкого круга партнеров как внутри страны, так и за рубежом».
Решение последовало после того, как в июне правительство США ввело экспортные ограничения в отношении ориентированных на кибербезопасность моделей Anthropic — Fable и Mythos, запретив иностранным гражданам пользоваться этими технологиями.
Ограничения были введены после того, как власти обнаружили так называемый jailbreak — способ обхода встроенных в программное обеспечение механизмов безопасности. После этого Anthropic на несколько недель убрала свои наиболее передовые модели с глобального рынка.
Этот эпизод обострил напряженность между Белым домом и Кремниевой долиной. Технологическая отрасль критиковала правительство за несистемный подход к регулированию наиболее передовых ИИ-моделей.
Решение также вызвало негативную реакцию иностранных правительств, которые обвинили США в том, что введенный запрет фактически наказывает американских союзников. Европейская комиссия тогда предупредила, что вопросы безопасности являются «общей проблемой», а принимаемые меры «не должны носить дискриминационный характер в отношении партнеров».
Британские чиновники обеспокоены как возможными последствиями для национальной безопасности, так и потенциальным экономическим ущербом в случае, если Великобритания начнет отставать в доступе к самым передовым моделям искусственного интеллекта.
В прошлом месяце Financial Times сообщила, что Кабинет министров Великобритании, отвечающий за координацию работы государственного аппарата, распорядился провести срочную оценку рисков, связанных с возможной потерей доступа к новейшим ИИ-моделям для обычных пользователей, в том числе британских компаний.
С начала года отношения Anthropic с американским правительством оставались напряженными. Власти США признали компанию риском для цепочек поставок после конфликта вокруг условий контракта с Министерством обороны США.
Однако в последние месяцы отношения между одной из ведущих американских ИИ-лабораторий и отдельными представителями администрации Трампа, по всей видимости, улучшились. Обе стороны тесно сотрудничали в процессе выпуска моделей Mythos и Fable.
В Кабинете министров Великобритании заявили: «Институт безопасности искусственного интеллекта продолжает тесно сотрудничать с партнерами в отрасли, включая Anthropic, чтобы сделать модели более безопасными».
