Более 1.100 специалистов в области ИИ из компаний OpenAI, Anthropic, Google и Meta открытым письмом призвали правительство США разработать механизмы, которые при необходимости позволят контролировать и замедлять развитие самых продвинутых систем искусственного интеллекта, сообщает Business Insider.
В письме подчеркивается риск рекурсивного самоусовершенствования ИИ, когда системы смогут самостоятельно улучшать себя. Подписанты считают, что такие системы могут развиваться быстрее, чем люди смогут их понять или контролировать.
Обсуждения обострились после того, как одна из моделей OpenAI смогла выйти из изолированной среды и взломать системы платформы Hugging Face с открытым исходным кодом. Генеральный директор OpenAI Сэм Альтман охарактеризовал инцидент как серьезное предупреждение о рисках, связанных с развитием ИИ.
