Российский разработчик инфраструктурного программного обеспечения Orion soft и технологический дистрибьютор ServerICT заключили соглашение о партнерстве. Компании объединят возможности продуктов Nova AI и StarGuard AI с экспертизой ServerICT в проектировании и поставке оборудования для ИИ, включая серверные решения на базе китайских GPU-ускорителей. Об этом CNews сообщили представители Orion soft.

Среди российских компаний увеличился спрос на развертывание языковых моделей и других ИИ-сервисов. Для запуска таких проектов требуется инфраструктура, в которой программная платформа, вычислительное оборудование и средства информационной безопасности совместимы между собой и подобраны с учетом конкретной нагрузки.

Сотрудничество Orion soft и ServerICT предоставит заказчикам комплексный подход в реализации ИИ-проектов. Совместными усилиями компании будут осуществлять подбор и поставку серверного оборудования, а также развертывание программной инфраструктуры, настройку моделей и последующее сопровождение. Компании также планируют прорабатывать конфигурации на базе китайских GPU-ускорителей для корпоративных задач машинного обучения и инференса.

В рамках совместных проектов ServerICT будет отвечать за подбор оборудования, поставку серверов и ускорителей, разработку конфигураций, интеграцию и техническую поддержку. Команда MLOps-инженеров компании сможет проводить тестирование решений и подготовку инфраструктуры под требования конкретных моделей и сценариев использования.

Orion soft предоставит программные продукты для управления и защиты ИИ-инфраструктуры. Nova AI предназначена для выполнения задач искусственного интеллекта и машинного обучения, распределения GPU-ресурсов, обучения и инференса моделей. StarGuard AI обеспечивает безопасное взаимодействие пользователей с LLM, помогает предотвратить утечки чувствительных данных, управлять доступом к моделям и учитывать расходы на токены.

Почему виртуализация на базе открытых решений подходит для критической инфраструктуры Импортонезависимость

«Заказчикам все чаще нужна не просто лицензия, а готовый ИИ-проект — с подобранным оборудованием, развернутой инфраструктурой и сопровождением. Поэтому мы объединяем нашу продуктовую экспертизу с компетенциями ServerICT в аппаратной части и внедрении, чтобы комплексно подходить к реализации таких проектов», — отметил Никита Векессер, руководитель продуктов Nova AI и StarGuard AI в Orion soft.

«Спрос на ИИ-инфраструктуру растет быстрее, чем экспертиза по ее сборке: можно купить правильные ускорители и все равно не получить рабочий кластер. Партнерство с Orion Soft закрывает этот разрыв — мы отвечаем за оборудование и его подготовку под конкретные модели, коллеги — за платформу управления и контроль работы с LLM» — сказал Сергей Миневич, исполнительный директор ServerICT.

• Подобрать тариф на аварийное восстановление DRaaS на ИТ-маркетплейсе CNewsMarket