Министр государственной безопасности Китая Чэнь Исинь в своей статье изложил одно из самых четких предупреждений Пекина о рисках, связанных с искусственным интеллектом. Как передает Bloomberg, он указал, что стремительное развитие технологии может создать угрозы как для политической стабильности, так и для критически важной инфраструктуры.
В статье, опубликованной в официальном журнале China Cyberspace, Чэнь Исинь написал, что злонамеренное использование искусственного интеллекта противниками может «напрямую угрожать политической безопасности Китая, безопасности государственной системы и идеологической безопасности». По его оценке, ИИ становится все более эффективным в выявлении уязвимостей систем и может применяться для создания вредоносного программного обеспечения и инструментов для его эксплуатации.
Публикация стала одной из наиболее прямых формулировок китайской оценки рисков ИИ. Она вышла в период, когда руководители ведущих американских технологических компаний публично призывают замедлить развитие технологии. При этом в материале нет признаков того, что он связан с этими заявлениями, и в статье также не упоминаются недавние призывы Anthropic PBC и OpenAI снизить темпы гонки по созданию более совершенных моделей.
Ранее сооснователь Anthropic Дарио Амодеи заявил, что возможности искусственного интеллекта развиваются быстрее, чем системы защиты. Он призвал компании, США и другие демократические страны координировать свои действия. Чэнь Исинь также подчеркнул важность безопасности, однако рассматривает риски прежде всего через призму политического контроля, технологического суверенитета, внешних угроз и стратегической конкуренции.
По его словам, одна из главных тревог Пекина связана с тем, что силы, которые он назвал «враждебными», могут вести «войны общественного мнения» и «когнитивную войну». Чэнь считает, что созданные с помощью ИИ дипфейки, тексты и изображения, а также боты в социальных сетях могут использоваться для распространения политических слухов и вредоносной информации, а также для разжигания разногласий в обществе.
Чэнь Исинь также предупредил, что страны, имеющие преимущество в сфере искусственного интеллекта, под предлогом защиты национальной безопасности могут вводить технологические ограничения, «монополизировать» отраслевые стандарты и формировать закрытые экосистемы.
Этот подход перекликается с июльским выступлением председателя КНР Си Цзиньпина, посвященным концепции национальной безопасности.
