Доверие и контроль
AI помогает действовать быстрее, но не получает безусловную власть
До разработки фиксируем роль агента, минимальные доступы, действия с подтверждением человека, журнал, передачу человеку при ошибке и способ отключения. Эти правила входят в процесс внедрения, а не добавляются после ошибки.
- Минимальные права
- Подтверждение критичных действий
- Журнал и безопасное отключение
Матрица действий
Три состояния вместо общего обещания безопасности
Для каждого действия указывается один режим: выполнить автоматически, подготовить на подтверждение или остановить и передать человеку.
AI может подготовить
Классификацию обращения, краткое резюме, черновик ответа, поиск по разрешенной базе знаний и задачу для сотрудника.
Человек подтверждает
Цены и скидки, коммерческие условия, платежи, удаление или изменение критичных данных, конфликтные и чувствительные решения.
Сценарий останавливается
При недоступной интеграции, недостатке контекста, выходе за установленную роль или ручном отключении владельцем процесса.
До запуска
Что фиксируем для конкретного проекта
Набор мер зависит от данных и цены ошибки. Поэтому страница описывает обязательный процесс проектирования, а не заявляет несуществующие сертификаты или универсальную инфраструктуру.
Минимальные права
Каждому подключению выдаются только доступы, необходимые для согласованного сценария. Состав прав фиксируется до запуска.
Понятный журнал
Заранее определяем, какие действия и ошибки нужно сохранять, кто видит журнал и какой срок хранения нужен проекту.
Эскалация человеку
Для неопределенных, дорогих или чувствительных ситуаций задается маршрут к ответственному сотруднику, а не импровизация AI.
Ручное отключение
У владельца процесса должен быть понятный способ остановить агент, канал или отдельное действие без ожидания разработчика.
FAQ
Вопросы до выдачи доступов
AI получает доступ ко всем системам компании?
Нет. Нужные системы и минимальные права определяются для каждого сценария отдельно. Если задачу можно проверить на обезличенных примерах, полный доступ на старте не нужен.
Все действия обязательно логируются?
Логируется согласованный минимум, полезный для контроля и разбора ошибок. Нельзя без необходимости сохранять чувствительные данные или полный текст каждого сообщения.
Что происходит при ошибке модели или интеграции?
Сценарий должен перейти в безопасное состояние: остановить действие, показать понятную ошибку, передать задачу человеку или повторить только разрешенную операцию.
Как удаляются данные после проекта?
До запуска фиксируем, какие данные создаются, где они находятся, кто отвечает за удаление и что должно остаться в обязательных журналах или документах.
Опишите процесс и цену ошибки
Укажите, какие данные участвуют, что AI может только подготовить и какие действия обязательно должен подтверждать сотрудник.