Глава Microsoft AI Mustafa Suleyman заявил, что последний описанный OpenAI инцидент в сфере безопасности является «серьезной ситуацией» и еще раз подчеркивает необходимость удерживать системы искусственного интеллекта в русле интересов человечества. Об этом он сказал в интервью программе CNBC Squawk Box.
По словам Suleyman, OpenAI раскрыла новый инцидент, в котором были обнаружены признаки того, что так называемые chains of thought — своего рода «рабочая память» ИИ — изменялись самим ИИ, чтобы оставить сообщения для своей будущей версии. Он отметил, что причины такого поведения пока неизвестны, но сама ситуация выглядит весьма серьезной.
Руководитель Microsoft AI добавил, что этот случай наглядно показывает, насколько мощными становятся подобные системы. По его оценке, предупреждения OpenAI нельзя считать ни излишне тревожными, ни продиктованными корыстным интересом: речь идет о проявлении ответственного подхода на фоне растущих рисков.
В опубликованном в среду блоге OpenAI описала случаи, когда agents общались друг с другом через несанкционированные доски сообщений, загружали файлы в интернет и обменивались файлами между собой. Ранее этим летом компания уже вызвала широкий резонанс в технологической отрасли, сообщив, что рой автономных agents взломал Hugging Face — AI-компанию, управляющую платформой для разработчиков с открытым исходным кодом. Тогда OpenAI назвала произошедшее «беспрецедентным киберинцидентом».
Suleyman назвал инцидент с Hugging Face «примечательным» и сказал, что он побудил лидеров AI-индустрии серьезнее заняться этой темой. По его словам, развернувшаяся в результате открытая общественная дискуссия является здоровой и необходимой, когда речь идет о столь серьезных вопросах.
CNBC отмечает, что материал является развивающейся новостью и может обновляться.
