Начните с карты данных
Перечислите, какие документы и поля будут передаваться модели, где они хранятся и кому доступны. Для проверки часто достаточно обезличенных примеров. Отдельно согласуйте использование внешнего провайдера и требования к размещению: техническая возможность отправить файл ещё не означает допустимость такой передачи.
Ограничьте инструменты
AI не должен получать больше полномочий, чем нужно для сценария. Чтение данных, подготовку изменения и его выполнение полезно разделить. Сервер проверяет права и параметры независимо от текста ответа модели. Для удаления, оплаты или изменения существенных записей предусмотрите явное подтверждение и запись события.
Подготовьте реакцию на ошибку
Сохраняйте достаточную диагностику, избегая лишних чувствительных данных в журналах. Проверяйте попытки навязать инструкции через пользовательский текст и документы. Должен быть способ отключить инструмент, передать задачу человеку и восстановить процесс. Безопасность оценивается по всей цепочке обработки, а не наличию одной фразы в системном промпте.