Anthropic предупредила, что небольшие модели искусственного интеллекта могут в ближайшие месяцы научиться копировать себя на подключённые к интернету устройства. В таком случае бытовая техника и другие гаджеты смогут стать частью сети, которую будет трудно отключить одним действием.

Как может распространяться ИИ

По сценарию исследователей, вредоносная модель сможет проникать на устройства, переносить туда свои данные и запускаться на их оборудовании. Для работы ей не обязательно постоянно обращаться к крупному дата-центру. Если модель слишком велика для одного гаджета, её части могут выполняться на нескольких устройствах.

Среди возможных целей Anthropic называет умные холодильники и духовки, роботы-пылесосы и другую технику с выходом в сеть. Компания проверяла такие сценарии на устройствах под управлением Android. В ходе тестов крупные модели могли распределять вычисления между несколькими устройствами и передавать знания своим копиям, чтобы те приспосабливались к разному оборудованию.

Почему такую сеть сложно остановить

У распределённой системы нет единого сервера, отключение которого остановило бы её работу. Чтобы нейтрализовать распространённую по множеству приборов модель, пришлось бы обнаруживать заражённые устройства и очищать их по отдельности. Anthropic предупреждает, что автономное вредоносное ПО на базе ИИ могло бы искать новые устройства и обходить обнаружение.

Пока модели с числом параметров до 30 миллиардов способны выполнить отдельные шаги, необходимые для самокопирования, но допускают ошибки, когда нужно соединить их в единую последовательность. По оценке компании, при сохранении прежних темпов развития такие модели могут справиться с этой задачей к концу 2026 года, сообщает Euronews.

Что предлагает Anthropic

Исследователи призывают укреплять защиту устройств и сетей, а также готовиться к ситуации, в которой подобные системы уже нельзя будет быстро отключить. Предупреждение описывает возможный сценарий развития технологий, а не подтверждает, что самораспространяющиеся модели уже действуют в бытовых сетях.