Сервер для корпоративного ИИ — это не просто «машина с видеокартой». Это контур, в котором живут агенты, база знаний, журналы действий и резервные копии. Данные остаются внутри компании, к моделям ходят через согласованный канал, а необратимые операции ждут подтверждения человека.
Перед запуском нужно решить пять вещей: где разместить систему, как изолировать данные, где хранить ключи и пароли, как делать и проверять резервные копии и как мониторить работу. Выбор между локальной моделью и внешним API зависит от требований информационной безопасности и бюджета.
Когда нужен сервер для корпоративного ИИ
Не каждая задача требует отдельного сервера. Если агент отвечает на типовые вопросы клиентов и не видит внутренних документов, хватит облачного API с минимальной настройкой.
Свой сервер нужен, когда:
- агент работает с персональными данными, коммерческой тайной или финансовыми документами;
- требования ИБ запрещают выносить данные за пределы контура компании;
- нужна локальная модель для подсчёта эмбеддингов, чтобы тексты документов не уходили наружу;
- несколько агентов работают одновременно и требуют изолированных окружений;
- необходимо журналировать каждое действие агента для аудита.
Если хотя бы одно условие выполняется, переходите к выбору схемы размещения.
Три схемы размещения
Выбор делает заказчик вместе со своей службой информационной безопасности. Во всех трёх схемах память, база знаний и журналы остаются в вашем контуре.
Схема 1 — всё на вашем сервере. Подходит компаниям с ИТ-службой и свободными мощностями, где требования ИБ запрещают выносить данные. Система, память, база знаний, журналы и резервные копии размещаются на вашем оборудовании. Модели — локальные или внешние через согласованный канал.
Схема 2 — арендованная площадка в России. Для компаний без свободного сервера. Площадку согласуют с вашими ИТ и ИБ, доступ администратора остаётся у вас. Копии можно складывать в ваш контур.
Схема 3 — гибрид с внешними моделями. Для задач, где нужны внешние модели, а документы наружу отдавать нельзя. Документы, память и эмбеддинги остаются внутри. Через согласованный канал уходят только классы данных, разрешённые политикой проекта.
Подробнее о каждой схеме — на странице инфраструктуры для ИИ.
Изоляция данных и политика безопасности
Изоляция начинается не с настроек, а с письменного решения. До запуска системы подписывают политику данных: какие классы информации можно отдавать внешним моделям, какие остаются только внутри.
Ключевые правила:
- Эмбеддинги считает локальная модель на сервере. Тексты документов наружу не уходят.
- Классы данных фиксируются в политике проекта. Например: заголовки документов — можно, тело документов — нельзя.
- Требования 152-ФЗ учитываются при выборе площадки и каналов доступа к моделям. Решение по площадке принимает заказчик вместе со службой ИБ.
Политику подписывают до того, как агент увидит первый документ. Это не формальность: без неё невозможно понять, что именно защищает система.
Секреты, доступы и журналы действий
Три механизма, которые отличают настроенный сервер от работающего на удачу.
Секреты отдельно от кода. Ключи, пароли и токены хранятся в защищённом хранилище на сервере. В репозиторий и документацию они не попадают. Если ключ скомпрометирован, его можно отозвать одним действием.
Минимальные права. Агенты получают доступы под конкретную задачу — отдельные учётные записи, не общие. Отзыв доступа — одна операция для администратора.
Журнал действий. Система записывает, что агент прочитал, что изменил и кто подтвердил операцию. Журнал открыт администратору и руководителю. Необратимые операции — отправка письма, изменение статуса сделки, списание — ждут подтверждения сотрудника.
Эти механизмы настраиваются на этапе внедрения и проверяются перед выпуском агента в рабочий отдел.
Резервные копии и мониторинг
Резервное копирование — не «файл существует на диске». Это расписание, отдельное хранилище и проверка обратным восстановлением.
Что настраивают:
- Расписание копий — по часам, по дням, в зависимости от нагрузки.
- Хранение отдельно от рабочего сервера — чтобы сбой диска не уничтожил и копию.
- Проверка восстановлением — периодически копию реально разворачивают и смотрят, что система запустилась.
Мониторинг отслеживает состояние сервисов, очередей и дискового пространства. Оповещения приходят администратору и в служебную группу. Важно разделять обычную задержку и настоящий сбой — чтобы команда не привыкала игнорировать алерты.
Локальная модель или API: как выбрать
Это не технический, а организационный вопрос. Он влияет на бюджет, скорость и допустимые классы данных.
Внешний API через провайдера — проще в настройке, шире выбор моделей, расход считается по токенам. Но часть данных уходит наружу, и это нужно согласовать с ИБ.
Локальная модель — данные не покидают сервер, эмбеддинги считаются внутри контура. Требует оборудования с достаточной памятью и вычислительными ресурсами. Скорость зависит от мощности сервера.
Гибрид — документы и эмбеддинги внутри, а через канал наружу уходят только разрешённые классы данных. Самый гибкий вариант, но и самый сложный в настройке.
Учёт запросов и токенов по агентам и отделам настраивают отдельно. Цель — считать расход до того, как придёт счёт от провайдера. Подробнее о стоимости моделей и настройке — в прайсе.
Пример: сервер для ИИ-агента отдела продаж
Допустим, компания хочет автоматизировать подготовку коммерческих предложений. Агент должен читать карточки сделок в CRM, подбирать товары из каталога и формировать черновик КП. Данные — коммерческие, часть из них содержит условия ценообразования.
Схема размещения: всё на сервере компании (схема 1), потому что условия ценообразования нельзя отдавать внешним моделям.
Модели: локальная модель считает эмбеддинги по каталогу товаров. Для генерации текста КП используется внешняя модель через согласованный канал — в неё уходят только структурированные данные без ценовой политики.
Изоляция: в политике данных зафиксировано, что заголовки и категории товаров можно передавать наружу, а цены и скидки — нельзя.
Журнал: каждое КП, сформированное агентом, записывается в журнал с указанием сделки, сотрудника и времени. Отправка КП клиенту требует подтверждения менеджера.
Резервные копии: база знаний и журнал действий копируются ежедневно, раз в неделю проверяется восстановление.
Это пример, а не опубликованный кейс. Конкретные решения зависят от вашей CRM, каталога и требований ИБ.
С чего начать
Не нужно проектировать всю инфраструктуру сразу. Практичный путь:
- Опишите задачу — кто выполняет процесс, какие системы задействованы, какие данные обрабатываются.
- Проведите оценку — подходит ли задача для ИИ, какие интерфейсы доступны, какая схема размещения нужна.
- Согласуйте с ИТ и ИБ — площадку, классы данных, политику доступа.
- Настройте сервер — окружение, агентов, интеграции, резервные копии, мониторинг.
- Проверьте на ограниченных данных — прогнать типовые, ошибочные и рискованные сценарии.
- Запустите в отдел — с инструкциями, обучением и журналом действий.
Начать можно с одного процесса. Опишите его своими словами — оценим первый шаг в часах и подберём схему, при которой сервер для корпоративного ИИ будет соответствовать вашим требованиям ИБ. Описать задачу · Все услуги
Частые вопросы
Можно ли развернуть ИИ на нашем сервере?
Да, это основной вариант. Нужен сервер с доступом для установки, согласованный с вашими ИТ и ИБ. Требования к ресурсам зависят от объёма документов, числа агентов и выбранных моделей.
Какие данные уходят наружу при использовании внешних моделей?
Это определяет политика проекта, которую подписывают до запуска. Эмбеддинги для базы знаний считает локальная модель на сервере — тексты документов наружу не уходят. Через согласованный канал могут уходить только классы данных, разрешённые вашей службой ИБ.
Кто администрирует систему после запуска?
Ваш администратор по регламенту эксплуатации, подрядчик по часам или совместно. Администрирование и резервное копирование идут по отдельным позициям прайса, доработки — по сопровождению.
Что с персональными данными?
Требования 152-ФЗ учитываются при выборе площадки, каналов и политики данных. Площадку и классы данных, разрешённые для внешних моделей, согласуют с вашей службой ИБ письменно до запуска.
Сколько стоит сервер для ИИ?
Сервер, аренда площадки, лицензии и платные модели в ставку подрядчика не входят — это сторонние расходы, которые согласуют заранее и оплачивают отдельно. Стоимость настройки зависит от объёма работ и считается по часам.
Какие модели используются?
Зависит от задачи, требований ИБ и бюджета: внешние провайдеры через согласованный канал, локальные модели на вашем оборудовании или их сочетание. Список моделей и классы данных для каждой фиксируются в политике проекта.