Генеральный директор Meta Mark Zuckerberg публично изложил свою позицию по безопасности искусственного интеллекта, фактически поддержав подход, который в последние дни продвигает глава Nvidia Jensen Huang, и дистанцировавшись от более сдержанной линии руководителя Anthropic Dario Amodei.
В публикации в X и на других платформах Zuckerberg заявил, что AI-лаборатории, которые не будут уделять должного внимания «alignment», начнут отставать. Под этим термином он имеет в виду работу, которая должна обеспечивать соответствие технологий человеческим ценностям и их управляемость.
Дискуссия обострилась после того, как Dario Amodei в эссе, опубликованном в выходные, призвал технологическую индустрию «замедлить темпы, с которыми мы улучшаем возможности AI-моделей». Позже этот подход поддержал Altman, тогда как президент США Donald Trump раскритиковал подобные предложения.
«Сейчас много споров о том, стоит ли замедлять развитие возможностей, пока alignment не догонит их уровень», — отметил Zuckerberg. По его словам, доверие и alignment быстро становятся ключевыми характеристиками, которые будут отличать AI-агентов и модели.
По оценке Zuckerberg, у компаний уже есть сильные стимулы предотвращать проблемы, поскольку AI-лаборатории несут «значительную ответственность, если их модели причиняют вред». Этот рыночный взгляд совпадает с публичными комментариями Jensen Huang, который считает, что производители должны сами отвечать за свои продукты, а не добиваться новых ограничительных правил.
Zuckerberg также сообщил, что Meta по собственной инициативе отложила выпуск технологий Muse AI по причинам «safety and security». «Мы просто сделали это в рамках нашей повседневной работы, потому что это было очевидно правильным решением и для людей, и для нас», — сказал он.
Выступая на ежегодной конференции Salesforce Dreamforce, Jensen Huang заявил в разговоре с генеральным директором Salesforce Marc Benioff, что создатели AI-моделей должны брать ответственность за свои продукты вместо того, чтобы добиваться от законодателей новых ограничительных мер. Позже в интервью CNBC в программе «Mad Money» он назвал подобные законы и регулирование «совершенно ненужными».
«У нас уже достаточно законов. У нас уже достаточно правил, которые регулируют надежность и функциональность продуктов», — сказал Huang.
В то же время Dario Amodei, также выступавший на Dreamforce, подтвердил свою основную позицию: замедление темпов развития моделей может стать способом продвинуть индустрию вперед и задать пример для остальных.
Позже в тот же день Altman, присоединившись к беседе с Marc Benioff, заявил, что в разработке AI безопасность и мониторинг должны иметь приоритет перед функциями. Он также признал, что конкурентное давление подпитывает опасения, что некоторые компании или страны могут не поступить должным образом.
