Финансовый директор OpenAI Sarah Friar заявила в интервью CNBC, что компания должна серьезно относиться к рискам безопасности, связанным с искусственным интеллектом, даже если это потребует замедления темпов развития технологий. По ее словам, она не опасается сценария, при котором ИИ-агенты будут использовать оружие массового поражения для убийства людей, однако подчеркивает, что вопрос безопасности нельзя игнорировать.
«Нам действительно нужно серьезно относиться к безопасности», — сказала Friar в беседе с Jim Cramer на CNBC. Она добавила, что если для этого придется «сдержать темп на переднем крае» и замедлиться, OpenAI прислушается к своим исследователям и пойдет на такой шаг.
Friar отметила, что как CFO ей затем предстоит принимать соответствующие бизнес-решения. По ее словам, компания старается соблюдать баланс между продвижением технологий и очень серьезным отношением к вопросам безопасности и alignment.
Ее комментарии прозвучали на фоне резкого обострения дискуссии о безопасности ИИ за последнюю неделю. Поводом стало предупреждение бывшего исследователя Anthropic, который ушел из компании и заявил, что быстро развивающаяся технология может «убить нас всех к концу десятилетия».
На этом фоне глава Anthropic Dario Amodei, глава SpaceX Elon Musk и CEO OpenAI Sam Altman согласились с призывами к общеотраслевому замедлению. В субботу Amodei опубликовал пост в блоге, в котором выступил за более медленную разработку ИИ-моделей, чтобы «снизить риск того, что что-то пойдет серьезно не так».
При этом пока неясно, повлияют ли новые опасения на сроки IPO OpenAI и Anthropic. Дебют Anthropic на рынке, как ожидалось, мог состояться уже в следующем месяце. Sam Altman, в интервью Fortune, опубликованном в субботу, сказал, что IPO в 2026 году было бы «неблагоразумным».
В августе CNBC сообщал, что Friar сказала сотрудникам: лаборатория «станет публичной компанией в 2027 году», хотя размещение может состояться и раньше, если «наш бизнес продолжит ускоряться».
