Подтверждение действий ИИ-агента — это не одна кнопка «согласен», а набор правил: какие операции агент выполняет сам, какие ждут человека, кто именно подтверждает и что попадает в журнал. На практике матрица сводит всё это к четырём уровням риска: чтение, подготовка, обратимая запись и необратимые действия.
Первые два уровня агент делает без согласования, третий — с записью в журнал и возможностью откатить, четвёртый — только после явного подтверждения ответственного сотрудника. Ниже: как выглядит такая матрица, какие данные и доступы нужны для её настройки, как проверить, что она работает, и с чего начать разговор с командой.
Зачем нужна матрица и из чего она состоит
Без матрицы крайностей две. Агент либо скован: каждое действие спрашивает разрешения, и сотрудники перестают им пользоваться. Либо свободен: он пишет в учётную систему и отправляет письма без контроля, а разбирать последствия приходится руководителю.
Матрица убирает обе крайности. Она состоит из пяти колонок: операция, уровень риска, кто подтверждает, что фиксируется в журнале и обратима ли операция. Операции берут не из теории, а из реального процесса: что сотрудник делает руками сегодня, то завтра может делать агент.
Отдельное правило — минимальные права. Агенту выдаётся доступ только под свою задачу, отдельной учётной записью, и отзыв доступа выполняется одним действием. Список операций с подтверждением согласуется до запуска и входит в объём работ по настройке прав, логирования и контроля действий.
Как устроено подтверждение действий ИИ-агента по уровням риска
| Уровень | Примеры операций | Кто подтверждает | Что пишется в журнал | |---|---|---|---| | Чтение | Поиск по базе знаний, чтение сделок в CRM, выгрузка данных 1С | Не требуется | Источник, запрос, время, результат обращения | | Подготовка | Черновик письма, расчёт, план работ, подсказка сотруднику | Не требуется, результат показывается человеку | Черновик и его версия, на основе каких данных | | Обратимая запись | Черновик документа, помеченная запись в CRM, изменение с сохранённой версией | Исполнитель процесса или правило «записать и пометить» | Что изменено, прежнее значение, кто подтвердил, возможность отката | | Необратимые действия | Отправка письма клиенту, оплата, удаление, смена статуса сделки, публичная отправка | Обязательно: ответственный сотрудник или руководитель | Полная карточка действия: кто подтвердил, основание, объект, время |
Логика простая: чем дороже ошибка, тем строже подтверждение. Чтение почти бесплатно по рискам, поэтому его не замедляют. Необратимые действия исправить нельзя, поэтому их всегда держит человек.
Важная деталь границы: обратимой запись считают только тогда, когда прежнее состояние действительно восстановимо. Если «откат» означает ручной разбор в трёх системах, операцию относят к четвёртому уровню.
Роли подтверждающего и содержание журнала
Подтверждать должен тот, кто отвечает за последствие. В рабочем контуре обычно четыре роли. Сотрудник процесса подтверждает свои записи и отправку писем. Руководитель или назначенное ответственное лицо — действия с деньгами, условиями и внешними обязательствами. Администратор ведёт права, журналы и восстановление. Служба ИБ согласует политику данных и площадку.
Правило, которое стоит зафиксировать письменно: одно действие — один подтверждающий, а спорные случаи агент передаёт назначенному сотруднику, а не решает сам. Человек в контуре (human in the loop) работает именно так: не «присматривает вообще», а отвечает за конкретные точки.
Журнал действий должен позволять восстановить ход событий без расспросов. Минимум: время операции, учётная запись агента, действие и объект, источник данных, результат, кто подтвердил. Для изменений — прежнее значение или версия. Журнал открыт администратору и руководителю, а строка, которой нет в журнале, не считается выполненной работой.
Пример-сценарий: агент отдела продаж
Это иллюстративный пример, а не опубликованный кейс клиента. Возьмём отдел продаж: агент работает в Telegram и подключён к CRM, почте и 1С.
Чтение он делает сам: смотрит карточки сделок, историю переписки, остатки и цены в 1С. Подготовка — тоже сам: готовит черновик коммерческого предложения и варианты ответа клиенту, показывает их сотруднику в чате. Обратимая запись — пишет комментарий в карточку сделки с пометкой «создано агентом»: ошибку можно стереть, поэтому подтверждение не требуется, но запись попадает в журнал. Необратимые действия — отправка письма клиенту и смена статуса сделки: здесь агент останавливается и ждёт явного подтверждения сотрудника отдела.
Такая матрица снимает главный вопрос руководителя: «а что будет, если агент ошибётся?». Ошибка в черновике обходится правкой, ошибка в отправленном письме — разговором с клиентом, поэтому первое агент делает сам, а второе — никогда.
Какие данные и доступы нужны до настройки
Матрица собирается из четырёх групп вводных, и их готовит заказчик вместе с ИТ и ИБ.
Список операций процесса с оценкой обратимости. Роли сотрудников и границы их полномочий: кто что утверждает в отделе сегодня. Системы и интерфейсы: CRM, 1С, почта, Telegram, доступные API и OData. Политика данных: какие классы информации можно отдавать внешним моделям, а какие остаются в контуре, с учётом требований 152-ФЗ.
Сами доступы выдаются с минимальными правами, секреты хранятся отдельно от кода, а площадка и каналы к моделям согласуются письменно. Разбор схем размещения, прав и журналов описан в разделе инфраструктуры для ИИ, а порядок сбора вводных и согласований — на странице этапов внедрения.
Этапы внедрения и контроль человека
Матрицу не рисуют в вакууме: она появляется на шаге проверки, когда агент уже собран, но ещё не выпущен в отдел. Порядок работ такой: описание задачи, оценка, договор и доступы, сборка, проверка, запуск и сопровождение.
На шаге проверки прогоняют типовые, ошибочные и рискованные сценарии, настраивают журналы действий, права и передачу спорных случаев человеку. Перед выпуском агент работает в стендовой группе — там видно, где он спрашивает подтверждение и как ведёт себя при неполных данных.
После запуска контроль не заканчивается. Сотрудников обучают не только спрашивать агента, но и понимать, что именно они подтверждают. Руководителю важно уметь читать журнал и видеть границы системы. Разбор недельных диалогов, инструкции отделу и регламент эксплуатации обновляются вместе с системой, а не раз в год.
Риски и как проверить результат
Первый риск — механическое подтверждение: сотрудник жмёт «согласен», не читая. Лечится содержанием карточки подтверждения: агент показывает, что именно изменит, и каким будет эффект. Второй — перегрузка: подтверждений так много, что отдел возвращается к ручной работе. Третий — дыра в матрице: необратимая операция случайно попала в разрешённый список. Четвёртый — пустой или неполный журнал.
Проверить результат можно коротким чек-листом. Прогнать типовые, ошибочные и рискованные сценарии и убедиться, что рискованный останавливается на подтверждении. Проверить журнал: из него видно, что агент прочитал, что изменил и кто подтвердил. Отозвать доступ агенту одним действием и убедиться, что операции прекращаются. Попросить руководителя отдела прочитать журнал за неделю и восстановить ход двух-трёх операций без вопросов к разработчикам.
С чего начать
Начните не с технологии, а со списка операций одного процесса: выпишите, что делает сотрудник, и отметьте, что обратимо, а что нет. Из этого списка матрица подтверждений действий ИИ-агента собирается за один рабочий разговор — с ролями подтверждающих и правилами журнала.
Дальше имеет смысл определить контур: где будет работать система и какие данные она видит, затем согласовать матрицу с ИТ и ИБ. Порядок шагов, журнал работ и приёмку мы описали в разделе про этапы внедрения, а направления работ и объёмы — на странице услуг и в открытом прайсе. Описать задачу и задать вопросы можно через контакты: достаточно одного процесса и описания того, что сегодня делается вручную.
Частые вопросы
Кто должен подтверждать действия ИИ-агента?
Тот сотрудник, который отвечает за последствия операции: исполнитель процесса — для рабочих записей, руководитель или назначенное ответственное лицо — для действий, затрагивающих клиента, деньги или документы. Роль подтверждающего закрепляют в матрице и в договоре на внедрение, чтобы подтверждение нельзя было переложить на «кого-нибудь».
Какие действия агент может выполнять без подтверждения?
Чтение данных и подготовку материалов: поиск по базе знаний, черновики писем, расчёты, планы, подсказки сотрудникам. Эти операции не меняют учётные системы и не доходят до внешних адресатов, поэтому агент выполняет их сам, а результат проверяет человек.
Что записывается в журнал действий агента?
Время операции, учётная запись агента, действие и объект, источник данных, результат и кто подтвердил. Для изменений дополнительно фиксируют прежнее значение или версию, чтобы действие можно было откатить. Журнал открыт администратору и руководителю.
Как отменить действие агента, если оно уже выполнено?
Отменяются только обратимые операции: черновики, помеченные записи, изменения с сохранённой версией. Необратимые действия — отправка письма клиенту, оплата, удаление — отменить нельзя, поэтому их и выносят в отдельный уровень с обязательным подтверждением человека.
Можно ли подключить матрицу подтверждений к уже работающей системе?
Да. Сначала описывают операции агента и их обратимость, затем настраивают права, журнал и сценарии подтверждения, после чего прогоняют типовые, ошибочные и рискованные сценарии. Для действующей системы такую настройку можно заказать отдельно от постройки самого агента.
Официальные материалы по теме
Для терминов, возможностей интерфейсов и требований безопасности используем первичные материалы разработчиков и профильных организаций.