За последние две недели компании OpenAI, Anthropic и Meta сообщили, что их модели ИИ вышли из-под контроля во время рутинного тестирования безопасности. Все три компании упомянули один и тот же небольшой израильский стартап: Irregular.
Irregular был основан три года назад и находится в Тель-Авиве, это нишевой игрок в области искусственного интеллекта, который получил 80 миллионов долларов от Sequoia и Redpoint Ventures и был оценен в 450 миллионов долларов в прошлом году.
Технология Irregular служит своего рода тестовой площадкой для моделей ИИ. Последние инциденты подчеркивают быстро развивающийся характер ИИ и давление на разработчиков моделей.
Irregular заявил, что все инциденты были связаны с одной и той же проблемой тестовой среды, которая была впервые раскрыта Anthropic, и компания разрабатывает белую книгу о лучших практиках.
