В соперничестве США и Китая за лидерство в сфере искусственного интеллекта термин «дистилляция» стал одной из центральных тем спора. В широком смысле речь идет об обучении одной ИИ-модели на ответах или результатах более продвинутой модели. Критики считают, что такой подход может позволить менее сильной лаборатории создать конкурентный продукт, используя результаты системы, на разработку которой были потрачены миллионы или миллиарды долларов.
Американские компании и Вашингтон утверждают, что именно за счет этой практики китайские лаборатории быстро сокращают отставание от конкурентов из США, и называют это кражей. Однако все больше представителей отрасли ставят под сомнение тезис о том, что прогресс Китая в ИИ объясняется главным образом или исключительно дистилляцией.
Глава Cohere Aidan Gomez заявил CNBC, что не весь прогресс Китая можно свести к этой технике. Gomez, один из соавторов исследования 2017 года «Attention Is All You Need», охарактеризовал китайские ИИ-модели как «мирового класса» и сказал, что преимущество ведущих американских лабораторий «очень быстро испаряется».
По его словам, разговоры о том, что китайские компании лишь копируют, используют дистилляцию и тем самым жульничают, отчасти имели под собой основания. Но, как отметил Gomez, китайские разработчики выстроили и самостоятельную сильную компетенцию. По его оценке, последние китайские модели по ряду бенчмарков и отдельных параметров уже превосходят лучшие американские аналоги. А превзойти лидера, по его мнению, одним только копированием невозможно: так можно лишь сократить разрыв.
Разные оценки китайского рывка в ИИ
Такая позиция несколько расходится с заявлениями американских ИИ-компаний и официального Вашингтона. В частности, создатель Claude — Anthropic — неоднократно заявлял, что китайские лаборатории использовали дистилляцию, и называл это кражей. В этом месяце глава отдела threat intelligence Anthropic Jacob Klein сказал CNBC, что существует «целая незаконная экосистема», пытающаяся получить доступ к Claude и другим моделям.
В опубликованном в этом месяце отчете Anthropic говорится, что компании Alibaba, Moonshot и DeepSeek, входящие в число ведущих китайских ИИ-лабораторий, пытались применять «незаконную дистилляцию» для обучения собственных моделей.
С предупреждениями выступало и правительство США. Ранее в этом месяце Cybersecurity and Infrastructure Security Agency заявило, что китайские ИИ-компании «систематически извлекают проприетарные функции и возможности моделей американских ИИ-компаний через кампании по дистилляции знаний промышленного масштаба», и что это является не дополнением, а ядром их стратегии развития.
Сомнения в ключевой роли дистилляции
В то же время все больше экспертов присоединяются к мнению о том, что значение дистилляции для китайского прогресса может быть преувеличено. Бывший старший советник Белого дома по политике в области искусственного интеллекта Sriram Krishnan в четверг заявил, что такие сервисы, как ChatGPT и Claude, сами «вышли из дистилляции человеческого контента», имея в виду, что эти модели обучались на информации из интернета.
По словам Krishnan, «сама идея дистилляции всегда была ключевой частью того, как работает компьютерная наука». Он добавил, что даже если китайские лаборатории используют этот метод, неясно, насколько сильно это реально помогает им продвигать модели. Эта точка зрения близка к позиции Gomez.
Китайские власти отвергли обвинения. Представитель Министерства коммерции Китая заявил, что утверждения США о применении китайскими компаниями дистилляции «промышленного масштаба» являются «необоснованными и юридически несостоятельными».
В материале CNBC подчеркивается и другой фактор — влияние технологических ограничений. Несмотря на ограничения доступа к передовым чипам, в том числе от Nvidia, Китай ускорил развитие собственного полупроводникового сектора. Хотя большинство экспертов согласны, что китайские полупроводники пока не сопоставимы по производительности с американскими чипами, страна использует различные технические подходы, чтобы сделать их пригодными для решения задач.
Партнер Counterpoint Research Neil Shah сказал CNBC, что именно ограничения на чипы заставили китайских разработчиков создавать «более легкие, более умные архитектуры» и добиваться большего при меньших вычислительных ресурсах. По его словам, сводить это лишь к имитации удобно для ограничительной политики, но это фундаментально неверно оценивает конкурента.
Тем самым статья ставит более широкий вопрос: не недооценивают ли западные политики технические возможности Китая в сфере ИИ? Ответ Gomez был однозначным: «Абсолютно». По его словам, рынку нужно время, чтобы перестроить восприятие и признать, что Китай уже не просто копирует, а создает собственные инновации.
