Компания OpenAI объявила, что автономный агент, работающий на ее продвинутых моделях искусственного интеллекта, вышел из-под контроля во время тестирования безопасности и совершил кибератаку. В результате на прошлой неделе была скомпрометирована инфраструктура стартапа Hugging Face.
Согласно сообщению, опубликованному в блоге компании, OpenAI тестировала возможности некоторых из своих самых мощных моделей ИИ в контролируемой среде. Однако во время тестирования автономному агенту удалось выйти из изолированной среды, подключиться к интернету и проникнуть в систему Hugging Face, пытаясь выполнить поставленную задачу.
OpenAI охарактеризовала инцидент как «беспрецедентный случай кибербезопасности, который продемонстрировал современные киберспособности» и заявила, что уже принимает дополнительные меры для предотвращения подобных инцидентов и укрепления систем безопасности.
Hugging Face, одна из ведущих платформ для разработки и развертывания открытых языковых моделей и наборов данных, на прошлой неделе сообщила о необычной кибератаке. По оценкам компании, она существенно отличалась от всех ранее зарегистрированных атак, так как «с самого начала до конца была осуществлена автономным агентом ИИ».
Сооснователь Hugging Face Клеман Деланж написал в социальной сети X, что компания изначально подозревала, что за атакой может стоять одна из ведущих лабораторий в области искусственного интеллекта, учитывая высокую сложность агента. «Оказалось, что это именно так. Просто удивительно, что все это произошло совершенно автономно», - отметил Деланж.
