Дискуссия о безопасности и регулировании искусственного интеллекта усиливается, разделяя как политические круги Вашингтона, так и лидеров Кремниевой долины. В центре спора — два подхода: одни требуют замедлить развитие самых мощных моделей, другие настаивают, что новые законы и регулирование не нужны.
В одном лагере — президент США Donald Trump, генеральный директор Nvidia Jensen Huang и бывший White House crypto czar David Sacks. В другом — Dario Amodei из Anthropic, Sam Altman из OpenAI, Elon Musk и ряд исследователей AI, которые предупреждают о возможных рисках технологии.
Опасения по поводу безопасности вышли на новый уровень
Спор обострился после того, как исследователь Anthropic Jacob Coxon на прошлой неделе объявил об уходе из компании, заявив, что OpenAI и Anthropic «gambling with our lives». На фоне обсуждения его поста один из alignment lead в Anthropic также сказал, что вероятность того, что AI может «killing all humans», превышает 10%.
На выходных Dario Amodei призвал замедлить развитие моделей на AI frontier. Вскоре к нему присоединился Sam Altman, что стало необычным союзом между конкурирующими лабораториями. Elon Musk, в свою очередь, написал в X, что «Dario is right», а затем добавил, что давно «sounding the alarm» по поводу AI.
Дискуссия быстро дошла до Вашингтона, где усилилась напряженность вокруг вопроса о том, как сдерживать растущие риски без ущерба для технологических инноваций. Призывы замедлить развитие AI объединили и неожиданных политических союзников: сенатора Bernie Sanders, представителя Chip Roy и бывшего стратега White House Steve Bannon, которые во вторник участвовали в nonprofit-мероприятии в Вашингтоне в поддержку шагов в сфере AI.
Трамп отвергает сценарии «апокалипсиса»
Donald Trump резко выступил против новых правил для AI и предупреждений о вымирании человечества. На этой неделе в Truth Social он назвал опасения по поводу вышедшего из-под контроля AI «hoax» и «scam», а также раскритиковал общественное сопротивление строительству data center.
В понедельник он по телефону подключился к интервью Jensen Huang на All-In Summit в Лос-Анджелесе, чтобы донести свою позицию до технологической аудитории. На распространенном в соцсетях видео Trump заявил, что те, кто выступает против строительства data center, «playing right into the hands of a lot of people that don't want to see it happen», и такой силой может быть China. В ответ Huang сказал: «You're right. We're not going to let that happen, sir.»
Министр финансов США Scott Bessent во вторник на слушаниях в House Financial Services Committee заявил, что Trump «completely aligned» с Huang. Позже в тот же день Huang вновь поддержал позицию Trump на Salesforce Dreamforce, сказав: «We don't need any new laws. We don't need new regulations.» По его словам, компаниям нужно просто позволить двигаться максимально быстро.
Другие представители администрации использовали еще более жесткую риторику. David Sacks, который сейчас является co-chair President's Council of Advisors on Science and Technology, призвал технологических гигантов продолжать движение вперед, но «stop pretending the motivation to slow down is purely altruistic». Похожую оценку дал и Emil Michael, under secretary of War for Research and Engineering, заявив Fox News, что нынешнее «fearmongering» — это скоординированная кампания по запугиванию американской общественности.
Один из ключевых аргументов администрации состоит в том, что ограничение регулирования важно для победы в AI-гонке с China. В воскресенье Trump сказал, что «whoever wins AI wins». Спикер House Mike Johnson во вторник на пресс-конференции сообщил, что президент намерен «within the next week» собрать лидеров AI-индустрии в White House. Он также отверг апокалиптические опасения, заявив: «What the president is saying is you're not all going to be dead in 10 years. That's a hoax.»
