Дискуссия о безопасности искусственного интеллекта на конференции Salesforce Dreamforce выявила расхождение подходов двух влиятельных руководителей отрасли. Генеральный директор Anthropic Dario Amodei и глава Nvidia Jensen Huang, выступая в Сан-Франциско вместе с Marc Benioff, представили разные взгляды на темпы развития ИИ.
Amodei вышел на сцену первым в рамках ключевого выступления Dreamforce. Это произошло через несколько дней после публикации его эссе, в котором он призвал индустрию замедлить разработку моделей. По его словам, такой подход может задать пример рынку и показать, что участники отрасли способны действовать более ответственно.
Идея Amodei быстро получила поддержку в технологическом секторе. Как сообщает CNBC, в ее пользу публично высказались глава OpenAI Sam Altman, глава SpaceX Elon Musk и председатель Google DeepMind Demis Hassabis. Это произошло после предупреждений исследователей на прошлой неделе о том, что ИИ может нести потенциал катастрофического вреда. Amodei предложил план из трех шагов, который должен сдержать слишком быстрое наращивание возможностей моделей без «ущерба для коммерческого преимущества или лидерства Соединенных Штатов в ИИ».
Huang смотрит на этот вопрос иначе. Выйдя на сцену вскоре после Amodei, глава Nvidia заявил, что рыночные механизмы уже существуют и отрасли не нужны новые законы или дополнительное регулирование. По его мнению, скорость и безопасность не исключают друг друга.
«Это ложный выбор», — сказал Huang в разговоре с Benioff, добавив, что индустрия вполне может одновременно обеспечивать и быстрый прогресс, и безопасность. При этом, по его словам, компании должны уметь вовремя брать паузу, если понимают, что продукт еще не готов к безопасному выпуску или ситуация выходит из-под контроля. «Бегите так быстро, как можете. Но если в какой-то момент почувствуете, что компания выходит из-под контроля или продукт не будет безопасным, остановитесь и убедитесь, что все сделано правильно», — отметил он.
За день до этого Huang выступал в Лос-Анджелесе на All-In Summit, где принял звонок от президента Donald Trump. Trump по громкой связи выразил обеспокоенность людьми, которые, по его словам, пытаются препятствовать строительству центров обработки данных для ИИ. Huang ответил: «We’re not going to let that happen, sir».
Dreamforce уже более десяти лет остается одним из главных событий в индустрии программного обеспечения. Каждый год конференция привлекает около 50,000 участников в центр Сан-Франциско, а ключевое выступление Benioff традиционно собирает заметных фигур технологического мира. В этом году в Moscone Center, по данным CNBC, присутствовало около 12,000 человек.
С деловой точки зрения мероприятие также принесло конкретные объявления. Во вторник Salesforce и Nvidia сообщили о запуске нового reasoning model для платформы Agentforce, созданного на базе одной из open-weight моделей Nemotron от Nvidia. В конце прошлого месяца Salesforce и Anthropic расширили стратегическое партнерство и представили «Claudeforce» — решение, позволяющее отделам продаж получать доступ к важным данным напрямую из чат-бота Claude от Anthropic.
Benioff, комментируя вопрос о том, как должны действовать разработчики моделей, заявил журналистам, что окончательная ответственность должна оставаться на самих компаниях. По его словам, если они считают, что нужно замедлиться, значит, следует замедлиться, а если считают, что нужно ускориться, могут ускоряться, но затем должны нести ответственность за эти решения.
