Исследователи американской компании Anthropic допустили, что уже к концу 2026 года небольшие модели искусственного интеллекта могут приблизиться к способности самостоятельно распространяться между подключенными к интернету устройствами. Потенциальную угрозу ученые описали как «цифровую плесень» — распределенную систему, использующую чужие вычислительные ресурсы без ведома их владельцев. В качестве возможной среды распространения рассматривается в том числе бытовая техника: телевизоры, холодильники и роботы-пылесосы. Однако опрошенные «Известиями» эксперты считают, что превращение подобных систем в массовую угрозу пока маловероятно. Что представляет собой «цифровая плесень», чем она может быть опасна и как защитить домашнюю технику — в материале «Известий».

Термин «цифровая плесень» исследователи Anthropic используют для описания гипотетической автономной ИИ-системы, способной распространяться между устройствами, создавать собственные копии и использовать доступные вычислительные мощности. В отличие от традиционного вредоносного ПО, такая система потенциально сможет адаптироваться к особенностям оборудования и продолжать работу без постоянных команд человека.

Как объяснил «Известиям» директор по машинному обучению Positive Technologies Андрей Кузнецов, речь идет об одном из сценариев, рассмотренных исследователями, а не о подтвержденном появлении нового типа киберугрозы. Основная задача экспериментов заключалась в проверке способности небольших нейросетей самостоятельно копировать себя на другие устройства и запускаться на них.

— Отличие от привычных ботнетов — не в способе заражения. Большинство ботнетов управляется из центра, который можно вычислить и отключить, и работает по заранее написанной инструкции под конкретный тип устройств. ИИ-червю такой центр не нужен: модель на каждом устройстве сама решает, что делать дальше, и может разобраться в незнакомом оборудовании, — рассказал эксперт.

В ходе экспериментов небольшая модель смогла самостоятельно настроить запуск другой нейросети на восьми из девяти типов оборудования, включая одноплатные компьютеры и устройства Mac. Исследователи также обнаружили, что эффективность выполнения задачи повышается при передаче информации между последовательными экземплярами модели.

Если новая копия получала заметки предыдущей о неудачных попытках, успешность возрастала с первоначальных 45% до 61–84%. Это показывает, что подобные системы потенциально способны использовать накопленный опыт для адаптации к незнакомому оборудованию.

Традиционные сетевые черви обычно создаются для конкретных платформ, тогда как ИИ-модель может самостоятельно определять подходящий способ запуска, пояснил руководитель ИИ-направления МТС Линк Дмитрий Крюков.

— ИИ-червь носит «мозги» с собой: веса модели входят в полезную нагрузку, и на незнакомом устройстве он сам разбирается, как запуститься, — отметил специалист.

При этом руководитель группы исследования технологий машинного обучения «Лаборатории Касперского» Владислав Тушканов предложил рассматривать «цифровую плесень» в контексте более ранних мысленных экспериментов о неконтролируемом развитии технологий.

В частности, он напомнил о концепции «серой слизи», предложенной инженером Эриком Дрекслером. Согласно этому сценарию, самовоспроизводящиеся наномашины теоретически способны использовать окружающее вещество для создания собственных копий, постепенно поглощая доступные ресурсы.

«Цифровая плесень», по мнению Тушканова, продолжает эту идею. Если языковые модели научатся воспроизводиться на подключенном к интернету оборудовании, они теоретически смогут распространяться по всему миру, а их полное удаление станет сложной задачей.

Одной из предпосылок появления подобных систем стало развитие компактных нейросетей, для работы которых требуется всё меньше вычислительных ресурсов. Одновременно увеличивается количество бытовых устройств, постоянно подключенных к интернету, — от телевизоров и камер видеонаблюдения до умных колонок и холодильников.

Современные модели, по словам Владислава Тушканова, действительно становятся эффективнее, а методы их сжатия позволяют запускать сложные алгоритмы на менее мощном оборудовании. Согласно анализу исследовательской организации Epoch AI, на который ссылается специалист, между появлением передовой модели и возможностью ее запуска на потребительских видеокартах проходит около полугода.

Однако это не означает, что современные нейросети уже способны полноценно работать на обычной бытовой технике.

— Когда мы говорим о «потребительском оборудовании», речь идет о мощных видеокартах или устройствах с общей видео- и оперативной памятью за сотни тысяч, а то и миллионы рублей, а не о холодильниках или даже обычных компьютерах, — обратил внимание эксперт.

По его оценке, вероятность того, что компактные модели, пригодные для запуска на умном телевизоре, в ближайшем будущем приобретут возможности передовых нейросетей, остается достаточно низкой при существующих архитектурах.

Эксперименты Anthropic также выявили существенные ограничения технологии. Как рассказал Андрей Кузнецов, исследователи вручную запустили модель на связке из 15 недорогих телевизионных приставок. Однако такая система работала в сотни раз медленнее привычных чат-ботов.

По расчетам авторов работы, одно копирование на новое устройство в подобных условиях могло бы занимать от полутора суток до нескольких дней. При этом даже объединение большого количества слабых устройств не гарантирует достаточной производительности.

В качестве примера исследователи рассмотрели ботнет Kimwolf, объединяющий более 2 млн зараженных устройств. Вычислительные возможности сети такого масштаба, по приведенной Кузнецовым оценке, не превысили бы производительности 40 серверных ИИ-ускорителей.

Кроме того, в лабораторных условиях процесс распространения существенно упростили: устройства в тестовой сети не были защищены паролями, а непосредственный взлом оборудования не проверялся. Полный цикл самостоятельного копирования удалось продемонстрировать только с участием крупных моделей, которые невозможно разместить на обычной бытовой технике.

Для организации распределенного запуска исследователям потребовалась мощная модель GLM-5.2, уточнил Владислав Тушканов, тогда как на менее производительное оборудование переносилась значительно более компактная Llama 3 8B. Последняя сама по себе не обладала необходимыми возможностями для дальнейшего самостоятельного распространения.

Руководитель продуктов Nova AI и StarGuard AI в Orion soft Никита Векессер также считает, что вычислительных ресурсов типичной бытовой техники недостаточно для самостоятельной работы даже небольших языковых моделей. Однако подобные устройства потенциально могут использоваться для передачи информации, хранения компонентов системы или выполнения простых вычислительных задач.

При этом распространению вредоносного ПО способствует не столько мощность оборудования, сколько его недостаточная защищенность. Многие устройства постоянно подключены к Сети, редко получают обновления и используют стандартные настройки безопасности. Наиболее уязвимыми, по словам Векессера, остаются камеры видеонаблюдения, маршрутизаторы и медиаприставки. Они практически непрерывно работают в интернете, а их программное обеспечение зачастую обновляется значительно реже, чем операционные системы компьютеров и смартфонов.

Потенциальное распространение автономных ИИ-систем вызывает опасения прежде всего из-за возможности несанкционированного использования вычислительных ресурсов. Зараженное устройство может выполнять посторонние задачи, передавать большие объемы данных и создавать дополнительную нагрузку на процессор и память.

Для владельца подобная активность, вероятнее всего, будет проявляться в замедлении работы техники, ее нагреве и постоянном обмене информацией с другими узлами сети, рассказал Андрей Кузнецов.

При этом существенного увеличения расходов на электроэнергию эксперт не ожидает. Гораздо серьезнее возможность использования зараженного оборудования для проникновения в домашнюю сеть.

— Камеры, микрофоны и личные данные под угрозой не из-за ИИ, а из-за самого взлома: такой доступ злоумышленники получают и сегодня, без всякого ИИ, — пояснил эксперт.

Аналогичной позиции придерживается Дмитрий Крюков. Он отметил, что исследование Anthropic не было посвящено краже персональных данных или получению доступа к камерам видеонаблюдения. Тем не менее, если злоумышленнику удается запустить собственный код на устройстве, потенциально под угрозой оказываются все данные и функции, к которым этот код получает доступ.

Дополнительную опасность представляет возможность формирования распределенных сетей зараженного оборудования. Подобная инфраструктура уже используется киберпреступниками для проведения DDoS-атак, организации прокси-сервисов и других противоправных действий.

Более актуальная угроза, как считает Владислав Тушканов, связана не с самовоспроизводящимися компактными моделями, а с применением мощных языковых моделей для автоматизации кибератак. Злоумышленники могут использовать ИИ-агентов для поиска уязвимостей в корпоративных сетях, анализа программного кода и подготовки атак. Развитие подобных инструментов потенциально позволит значительно расширить масштабы преступной деятельности.

— Если раньше ресурсы киберзлоумышленников были ограничены, то теперь они могут масштабировать свою деятельность и атаковать цели, которые прежде не стоили бы затраченного времени и ресурсов, — рассказал специалист.

Андрей Кузнецов обратил внимание и на другой сценарий — распространение автономных ИИ-червей внутри корпоративной инфраструктуры. Сегодня одним из крайних способов остановки масштабной кибератаки остается экстренная изоляция компании от внешних сетей. Такой подход позволяет нарушить связь злоумышленника с зараженными системами.

— Червь, который работает на основе ИИ-модели и уже захватил часть вычислительных мощностей самой жертвы, после такого отключения продолжит расползаться внутри дата-центра и всей инфраструктуры. Это новый виток усложнения защиты, — предупредил эксперт.

Несмотря на потенциальные риски, опрошенные «Известиями» эксперты считают, что существующие механизмы кибербезопасности способны противостоять значительной части подобных угроз.

Обнаружение автономного ИИ-червя, по мнению Дмитрия Крюкова, может оказаться проще, чем предполагается. Для запуска языковой модели необходимо передавать между устройствами значительные объемы данных, а ее работа сопровождается характерной сетевой активностью.

— Модель весит гигабайты, и ее надо перекачать на каждое новое устройство. Вдобавок приставка начинает постоянно гонять трафик с соседями, с которыми раньше молчала. Провайдер это видит, — пояснил специалист.

Наиболее эффективными инструментами противодействия могут стать мониторинг сетевого трафика и изоляция зараженного оборудования. Традиционные антивирусные программы имеют ограничения. На большинстве бытовых устройств их невозможно установить, а программное обеспечение, обеспечивающее работу нейросети, само по себе не обязательно содержит признаки вредоносного кода.

Крюков привел пример борьбы с ботнетом Mirai, когда интернет-провайдеры изолировали зараженных абонентов и направляли им инструкции по очистке оборудования. За две недели удалось устранить 92% заражений.

Особую актуальность эта проблема имеет для российского рынка недорогой электроники. Как рассказал Андрей Кузнецов, Россия входит в число стран с высокой концентрацией устройств, зараженных ботнетом Kimwolf. Существенную роль в распространении вредоносного ПО играют недорогие Android-приставки, на которых по умолчанию может быть включен режим отладки.

Для снижения рисков эксперты рекомендуют отказаться от стандартных паролей, своевременно устанавливать обновления, отключать ненужные функции удаленного доступа и размещать умные устройства в отдельной гостевой сети Wi-Fi.

Отдельную ответственность специалисты возлагают на производителей оборудования. По словам Дмитрия Крюкова, устройства должны поставляться с уникальными паролями, отключенными по умолчанию режимами отладки и возможностью регулярного обновления программного обеспечения.

При этом развитие распределенных вычислений необязательно связано с вредоносной деятельностью. Как отметил эксперт, аналогичные технологии могут применяться для добровольного объединения вычислительных мощностей пользователей.

В качестве примера он привел проект Folding@home, который использовал ресурсы компьютеров добровольцев для научных расчетов. В перспективе подобный подход может применяться и для выполнения отдельных задач искусственного интеллекта.

Принципиальное отличие легальной системы от вредоносной заключается в согласии владельца оборудования, прозрачных условиях использования его ресурсов и надежной защите персональных данных.