Во вторник американские спецслужбы обвинили шесть китайских компаний, занимающихся искусственным интеллектом, в систематическом использовании американских ИИ-моделей для обучения собственных систем. Ведомства, в том числе Агентство национальной безопасности США и Федеральное бюро расследований, заявили, что китайские компании ведут «агрессивную, злонамеренную и целенаправленную деятельность по дистилляции в промышленных масштабах». Об этом пишет The Wall Street Journal.
Ключевое слово здесь — «дистилляция»: так называется метод, при котором новая модель искусственного интеллекта использует знания и возможности уже существующей модели. Ниже — разбор того, как работает эта технология и какое влияние она может оказать на американо-китайскую гонку за лидерство в сфере ИИ накануне запланированной на этот месяц встречи президента Дональда Трампа с председателем КНР Си Цзиньпином.
Что такое дистилляция? Начнем с основ создания модели искусственного интеллекта. Разработчики, такие как Anthropic и OpenAI, собирают огромные массивы доступных материалов из интернета и книг, условно говоря, помещают все это в гигантский «блендер» сложных математических алгоритмов и создают нейронную сеть, устроенную по аналогии с человеческим мозгом. Такая сеть связывает слова между собой посредством связей различного веса. Обученная таким образом модель способна формировать естественно звучащие предложения, последовательно подбирая одно слово за другим.
После первоначального обучения модель напоминает студента-математика, который прочитал все когда-либо написанные учебники по математике, но которого никто не учил обсуждать математические задачи или естественным образом отвечать на вопросы. Поэтому исходной модели необходимо дополнительно совершенствовать свои навыки, обучаясь у эксперта. Нередко человек-эксперт задает модели вопросы и предоставляет образцовые ответы либо оценивает и корректирует ее ответы до тех пор, пока она не научится отвечать должным образом.
Чтобы дополнить работу человека и сократить расходы, инженеры могут использовать другую ИИ-систему в качестве «модели-учителя»: ей задают вопросы и просят не только дать ответы, но и объяснить их. Полученные наборы вопросов, ответов и рассуждений затем используются для дообучения «модели-ученика» и корректировки ее весовых параметров. Этот процесс, при котором существующая модель используется для дообучения новой, называется дистилляцией.
Используют ли китайские разработчики дистилляцию американских моделей? Американские спецслужбы утверждают, что китайские компании провели миллионы взаимодействий с передовыми американскими моделями, включая Claude, ChatGPT, Gemini и Grok.
Насколько дистилляция помогла Китаю? В июле один из руководителей Anthropic заявил, что благодаря дистилляции Китай смог сократить отставание от США в области искусственного интеллекта с 12–18 месяцев примерно до шести–девяти месяцев.
Американские ведомства утверждают, что масштабы китайских кампаний свидетельствуют о том, что дистилляция стала не просто вспомогательным инструментом, а «критически важным ядром» развития искусственного интеллекта в Китае.
В самом Китае ситуацию оценивают иначе. Компании, которым были предъявлены обвинения, напрямую не отрицали использование дистилляции. Однако представитель пекинской Moonshot AI после выпуска модели Kimi K3 в июле заявил местным СМИ, что ее «прорывные показатели» стали результатом фундаментальных инноваций, а не дистилляции или копирования.
Представитель Министерства иностранных дел Китая в среду заявила, что США должны прекратить выдвигать ложные обвинения и очернять Китай.
Некоторые американские исследователи, в том числе руководитель OpenAI Дин Болл, также считают, что дистилляция, возможно, помогала китайским компаниям на более ранних этапах гонки в сфере ИИ, однако не является главной причиной их последних успехов.
Является ли дистилляция кражей? Все согласны с тем, что некоторые виды дистилляции вполне допустимы. Например, компания Apple может использовать собственную модель для создания ее облегченной версии, способной работать на смартфонах. Широко приемлемой считается и дистилляция моделей с открытыми весами, которые, как правило, можно свободно скачивать и модифицировать.
Гораздо сложнее вопрос обстоит с дистилляцией закрытых моделей, таких как Claude. По мнению некоторых специалистов в области права, сама по себе такая практика, вероятно, не дотягивает до юридического определения кражи. Они отмечают, что результаты работы ИИ-моделей вряд ли будут рассматриваться как интеллектуальная собственность, сопоставимая, например, с книгой или фильмом. Даже если признать их таковой, разработчики, использующие дистилляцию, не копируют полученный контент напрямую, а лишь учатся на нем — подобно начинающему писателю, который совершенствует свое мастерство, читая книги.
Схожий аргумент сами ИИ-компании нередко используют, защищая практику обучения своих моделей на книгах: они утверждают, что не копируют произведения, а лишь обучаются на них.
Однако американские власти считают методы дистилляции, применяемые китайскими компаниями, незаконными. В феврале Anthropic заявила, что китайские компании использовали «мошеннические учетные записи и прокси-сервисы», чтобы получать масштабный доступ к Claude и одновременно избегать обнаружения.
Что намерено делать правительство США? Министр финансов США Скотт Бессент в июле допустил, что Вашингтон может наказать китайские ИИ-компании, включив их в американские санкционные списки.
«Когда компании КНР осуществляют скрытые атаки по дистилляции в промышленных масштабах, переходящие грань и превращающиеся в кражу интеллектуальной собственности, санкции и включение в Entity List будут рассматриваться как возможные меры», — написал Бессент в X.
Американские спецслужбы также призвали компании и государственные ведомства активнее сотрудничать для защиты от масштабной дистилляции, однако о конкретных санкциях против Китая не объявили.
Могут ли американские компании подать в суд на китайских конкурентов? Условия использования Anthropic запрещают китайским компаниям пользоваться Claude. Аналогичные ограничения действуют и у некоторых других американских разработчиков. Кроме того, ряд компаний прямо указывает в своих пользовательских соглашениях, что использование дистилляции для создания конкурирующих моделей запрещено.
Некоторые юристы, консультирующие ИИ-компании, считают, что американские разработчики могут подать в суд на китайских конкурентов за нарушение условий использования сервисов. Американские компании могли бы утверждать, что дистилляция наносит ущерб их коммерческим интересам, поскольку позволяет китайским конкурентам создавать сопоставимые по возможностям модели с меньшими затратами.
Однако собрать убедительные доказательства будет непросто, особенно если китайские компании проводили дистилляцию через зарубежных посредников. Кроме того, как отмечают юристы, затяжные судебные разбирательства дают мало преимуществ в отрасли, которая развивается с головокружительной скоростью.
К чему может привести спор вокруг дистилляции? Вопросы, связанные с искусственным интеллектом, могут быть подняты на встрече Трампа и Си Цзиньпина, запланированной на конец сентября в Вашингтоне.
Если Бессент реализует угрозу и китайские компании попадут в американские черные списки, пользователи в США и других странах могут столкнуться с ограничением доступа к китайским ИИ-моделям. Американские санкции или судебные иски также способны нанести ущерб китайским разработчикам.
В опубликованном в июле открытом письме компании, среди которых Nvidia и Microsoft, предостерегли власти от введения «широкомасштабных ограничений на методы, играющие важную роль в инновациях в сфере искусственного интеллекта». По их мнению, случаи незаконной дистилляции следует пресекать с помощью «точечных правовых и коммерческих механизмов».
