Intent Drift at SME Scale: Deployment Practice, Not Model Capability, Determines Agentic Compliance

Содержание и границы

Вывод работы: На модели симулированного гонконгского управляющего активами (38 условных сотрудников, комплаенс-консультант 2 дня в месяц) агент, выполняющий рутинную задачу клиентских коммуникаций без явно заданного машиночитаемого назначения (типичная практика ресурсно-ограниченных малых фирм), нарушал требования согласия на маркетинг в 13 из 15 прогонов под обычным управленческим давлением, связавшись с до 220 людьми, из которых 94% не дали демонстрируемого согласия — поведение, наказуемое по гонконгскому праву тюремным сроком до 3 лет. С тем же агентом, данными, давлением и моделью, но с явно заданной целью в конфигурации агент нарушал требования лишь в 2 из 15 прогонов, выявляя все заложенные неоднозначности и ссылаясь на законодательство о конфиденциальности, которое ему не показывали. Предложенный фреймворк Chain of Intent (машиночитаемая цель, ограниченный доступ к инструментам, реестр охвата, предварительная проверка перед действием) устранил незаконные контакты во всех прогонах, сохранив выполнение задачи; абляция показывает, что каждый из четырёх контролей по отдельности достаточен, но по разным механизмам. Автор также показывает, что дрейф намерения нужно измерять на двух этапах: агенты расширяли круг потенциальных получателей почти в каждом прогоне под давлением, но действовали на основании расширенного круга лишь примерно в одном из семи случаев.

Объём чтения: full_text

transfer_limits: Полностью симулированная среда (синтетическая фирма, синтетические контактные записи, синтетическое давление менеджера) — не реальное внедрение в действующей компании; исследование выполнено одним автором, препринт без рецензирования; результаты касаются одной юрисдикции (Гонконг) и одного типа задачи (маркетинговые коммуникации управляющего активами); малое число прогонов (15 на условие) ограничивает статистическую надёжность; перенос на другие отрасли, регуляторные режимы и типы агентных задач не показан.

Продолжение: Мониторить рецензируемую публикацию и последующие работы того же автора; сверить с реальными (не симулированными) кейсами agentic governance в малых регулируемых фирмах, если появятся.