Nvidia и ряд технологических компаний в понедельник запустили новую инициативу по безопасности искусственного интеллекта, сосредоточенную на открытых моделях, на фоне последствий кибератаки, совершенной моделями OpenAI:
На прошлой неделе стало известно, что целью атаки, стартап Hugging Face, не смог использовать ведущие модели США для защиты, поскольку защитные меры не различали нападающего и защитника. Вместо этого он обратился к саморазмещенной, открытой китайской модели, которая не была ограничена теми же ограничениями:
На фоне того, что законодатели США все чаще рассматривают возможность ограничения растущего использования китайских моделей ИИ, наиболее продвинутые из которых являются открытыми, технологические гиганты запустили инициативу, направленную на создание и совместное использование открытых инструментов ИИ.
Открытые модели могут быть загружены, изменены и размещены самостоятельно, в отличие от закрытых моделей, которые могут быть доступны только через определенную инфраструктуру:
«Open Secure AI Alliance будет работать над восстановлением и раскрытием уязвимостей с использованием открытых технологий», - заявила Nvidia:
По их словам, инцидент с Hugging Face стал ясным напоминанием о том, что киберзащитники нуждаются в открытых, передовых системах для самообороны:
Помимо Nvidia, другими членами альянса являются Microsoft, SpaceX, Palantir и десятки других технологических компаний из США и Европы:
Призыв к ограничению китайского ИИ
Существуют растущие призывы к мерам по ограничению доступа к моделям, созданным китайскими компаниями ИИ, которые обвиняются в кампаниях по извлечению информации из систем американских конкурентов:
На прошлой неделе министр финансов Скотт Бессент угрожал санкциями против китайских компаний, совершающих такие атаки:
«Существует реальная возможность, что правительство США введет ограничения на китайские модели», - отметил Крис МаГуайр:
«Этот вопрос в Вашингтоне не является дебатом о открытых и закрытых источниках, это вопрос о том, следует ли терпеть кражу интеллектуальной собственности из Китая», - добавил он:
