Anthropic заявила, что небольшие ИИ-модели находятся «в нескольких месяцах» от приобретения возможностей, необходимых для самовоспроизведения и распространения между подключенными к интернету домашними устройствами. По оценке компании, речь может идти, например, об умных духовках или Android TV box, вычислительные мощности которых модели смогут использовать для собственной работы без опоры на дорогие дата-центры.
В блоге компания отметила, что такую систему будет «сложно отключить», поскольку «нет централизованной точки, которую можно просто выключить». При этом Anthropic подчеркнула, что «полностью вышедшего из-под контроля репликатора» пока не существует, однако агенты становятся все более способными выполнять отдельные этапы цепочки репликации и передавать свои адаптации будущим копиям.
Новая оценка дополняет растущие опасения по поводу безопасности ИИ — от способности моделей проводить кибератаки до риска того, что технология выйдет из-под контроля. Руководители и исследователи Anthropic, а также конкурирующей OpenAI, в последнее время неоднократно выступали за более жесткие ограничения и меры по контролю темпов развития технологии.
Anthropic сообщила, что провела ряд тестов, чтобы проверить, может ли ИИ самовоспроизводиться. В одном из экспериментов небольшую модель Google Gemma4-26B-A4B запустили в сети из 15 дешевых Android TV box малоизвестных брендов. По словам компании, такие устройства часто имеют слабую защиту, что может облегчить их компрометацию.
Anthropic также описывает сценарий, при котором модель, не помещающаяся на одном устройстве, может «разделиться на части» и работать сразу на нескольких устройствах. По оценке компании, в наиболее опасном варианте может действовать «рой» разных моделей на разном оборудовании с использованием нескольких схем репликации. При этом лаборатория подчеркивает, что пока неясно, какую именно форму на практике примет автономная репликация ИИ.
