Предстоящая встреча президента США Donald Trump и председателя КНР Xi Jinping может быть посвящена не только технологическому соперничеству двух стран, но и рискам безопасности, связанным со стремительным развитием искусственного интеллекта. Как сообщает CNBC, стороны могут обсудить общие подходы к безопасности ИИ, а также создание отдельного механизма связи на случай инцидентов, включая ситуации уровня национальной безопасности.
В последние месяцы обеспокоенность практическими последствиями ИИ усилилась. OpenAI сообщала, что одна из ее исследовательских моделей получила несанкционированный доступ к части платформы Hugging Face, а Anthropic выяснила, что ИИ используется для автоматизации отдельных этапов кибератак. Эти случаи усилили опасения, что более автономные модели смогут ускорять атаки и затруднять их сдерживание.
Накануне встречи Trump и Xi, намеченной на четверг, министр финансов США Scott Bessent в выходные обсудил со своим китайским коллегой He Lifeng возможность «U.S.-China AI dialogue». Эта идея предполагает, в том числе, канал связи по инцидентам — вплоть до случаев, связанных с национальной безопасностью.
По словам директора Wadhwani AI Center при Center for Strategic and International Studies Aalok Mehta, руководители в обеих странах обеспокоены растущими кибервозможностями моделей ИИ, особенно агентов, способных действовать автономно, выходить из-под контроля и взламывать сайты.
Что разделяет стороны
Несмотря на возможность диалога по общим рискам, технологическая напряженность между США и Китаем сохраняется. Вашингтон продолжает ограничивать доступ Китая к самым передовым AI-чипам Nvidia и обвиняет китайские AI-компании в использовании метода «distillation» — обучении моделей на результатах более продвинутых американских систем. Пекин эти обвинения отвергает.
Хотя США на раннем этапе вышли вперед в разработке больших языковых моделей благодаря таким компаниям, как OpenAI и Anthropic, в последние месяцы китайские модели заметно прибавили в возможностях и все активнее внедряются компаниями по всему миру, в том числе в США.
Trump ранее скептически относился к предупреждениям о том, что ИИ может представлять экзистенциальную угрозу человечеству. Однако в начале этого месяца он заявил, что если США не победят в гонке ИИ, страна окажется «в очень плохом положении», а в понедельник написал в Truth Social, что власти «will rein things in if we have to».
Где возможен компромисс
Как считает Mehta, наиболее вероятные точки соприкосновения — это общие определения и рамки безопасности ИИ для мощных моделей, а также экстренный механизм коммуникации. Старший научный сотрудник Council on Foreign Relations по Китаю и новым технологиям Chris McGuire назвал такой канал для сообщений об инцидентах «скромным», но позитивным шагом.
В то же время, по его оценке, договоренность о замедлении нынешних темпов развития ИИ «крайне маловероятна». McGuire отметил, что Китай исторически использовал подобные диалоги, чтобы жаловаться на экспортный контроль США. По его словам, китайские государственные СМИ в основном отвергали опасения ведущих американских AI-лабораторий по поводу потенциально катастрофических рисков.
Несмотря на американские ограничения, как сообщается, ряд китайских компаний смогли получать удаленный доступ к вычислительным мощностям этих чипов через дата-центры в Юго-Восточной Азии. Торговый представитель США Jamieson Greer заявил, что вопрос контроля над чипами не входил в повестку предварительных переговоров в выходные, однако, по словам старшего директора Atlantic Council's Global China Hub Melanie Hart, Пекин может добиваться смягчения этих ограничений.
На переговорах также может быть поднята тема distillation. Американские компании и чиновники утверждают, что китайские лаборатории используют эту практику для ускоренного продвижения, характеризуя ее как кражу, тогда как Китай обвинения отвергает. В июле Bessent пригрозил санкциями компаниям, которые этим занимаются, и заявил, что администрация Trump обнаружила во многих китайских моделях «watermarks of our U.S. large language models», назвав это «неприемлемым».
По словам Mehta, продвижение сотрудничества в сфере ИИ зависит от двух условий: во-первых, оно не должно мешать США и Китаю конкурировать за счет качества своих технологий; во-вторых, необходим механизм верификации, чтобы стороны могли доверять точности передаваемой друг другу информации. По его оценке, для этого потребуются как технические, так и управленческие инструменты.
