В индустрии искусственного интеллекта обострилась дискуссия о том, нужно ли замедлить обучение и развитие новых моделей ради безопасности. Новый виток спора начался после того, как генеральный директор Anthropic Dario Amodei призвал «замедлить передний край» и изложил свое видение того, как сдерживать риски ИИ.
По оценке CNBC, сама дискуссия важна, однако для инвесторов главный вопрос остается прежним: замедлятся ли расходы на ИИ и расширение сектора. Вывод издания состоит в том, что заметного замедления в ближайшей перспективе ждать вряд ли стоит, поскольку ему противостоит геополитическая конкуренция между США и Китаем.
В своем эссе «We Must Pace the Frontier» Amodei предложил трехступенчатый подход. Первый шаг — привлечение независимых оценщиков безопасности в каждую лабораторию. Следующие шаги касаются выработки общей позиции демократических стран, а затем координации с авторитарными правительствами по стандартам безопасности и «ограничениям на темпы неконтролируемого прогресса ИИ». По его словам, некоторые формы такой координации юридически сложны и потребуют поддержки государства.
Публично эту позицию поддержали глава OpenAI Sam Altman и глава SpaceX Elon Musk. OpenAI, со своей стороны, опубликовала шесть примеров «неожиданного или вызывающего обеспокоенность поведения моделей» и заявила, что отрасль пока не решила ключевые вопросы безопасности в степени, достаточной для того, чтобы долго продолжать масштабирование на максимальной скорости. Musk также написал, что «Dario прав», а позже предложил, чтобы ведущие американские и китайские компании тестировали модели друг друга на безопасность.
Однако у идеи замедления есть и влиятельные противники. Генеральный директор Nvidia Jensen Huang заявил, что нет никакой необходимости принимать новые законы или выдавать антимонопольные послабления, чтобы компании могли качественно выполнить базовую инженерную работу до выпуска продуктов. По его словам, безопасность и тестирование — прежде всего инженерные задачи.
Технологический инвестор и бывший куратор ИИ и криптовалют в Белом доме David Sacks обвинил Amodei в попытке поднять регуляторный барьер для входа на рынок. По его мнению, если компании считают свои еще не выпущенные модели слишком опасными, они могут замедлиться по собственному решению, но не должны представлять это как обязательный путь для всех. Генеральный директор Meta Platforms Mark Zuckerberg также усомнился в необходимости координации, отметив, что рынок и так стимулирует безопасность. В качестве примера он привел решение Meta на несколько месяцев отложить выпуск модели Muse, чтобы сосредоточиться на вопросах безопасности и защищенности.
CNBC предлагает смотреть на этот спор через призму теории игр и, в частности, «дилеммы заключенного». Согласно этой логике, если бы две стороны — в данном случае США и Китай — могли принудительно согласовать замедление развития ИИ, результат был бы безопаснее для всех. Но поскольку такую кооперацию практически трудно контролировать и обеспечивать, наиболее вероятно, что обе стороны предпочтут продолжать движение на высокой скорости, чтобы не уступить конкуренту.
По трактовке издания, именно такую ситуацию теория игр описывает как Nash equilibrium — не лучший для всех, а наиболее вероятный исход. США не захотят замедляться, рискуя тем, что Китай продолжит ускоренное развитие и сможет сократить разрыв или обойти американское лидерство. Точно так же Китай не захочет ограничивать себя, если будет сомневаться, что США поступят аналогично.
Сам Amodei также признавал, что глобальная координация с Китаем крайне сложна. Он писал, что любое соглашение должно быть либо жестко проверяемым, либо достаточно ограниченным, чтобы его нарушение не создавало экзистенциальной военной угрозы. CNBC рассматривает это как дополнительное подтверждение того, что реализовать принудительное глобальное замедление чрезвычайно трудно.
Глава Palantir Alex Karp в эфире CNBC добавил, что ведущие американские лаборатории не до конца осознают геополитические последствия замедления. По его словам, соперничество с Китаем остается центральным вопросом, а рассчитывать на быстрое соглашение между президентом США Donald Trump и председателем КНР Xi Jinping было бы слишком оптимистично.
Итоговый вывод CNBC заключается в том, что инвесторам не стоит строить подход к акциям ИИ-компаний только на призывах к замедлению. Пока нет механизма принудительного международного сотрудничества, США и Китай, вероятнее всего, не откажутся от быстрого продвижения, а значит заметного замедления развития ИИ и расходов на него рынок пока не видит.
