你需要的不是又一个智能体,而是一个受治理的运行层

大多数“AI 智能体”演示之所以成立,是因为演示本身很宽容。智能体读一份文档、起草一段回复、勾选一个框。它触碰的一切都没有后果,事后也没有人追问发生了什么。

生产环境并不宽容。一旦某次 AI 操作发送了消息、变更了记录或动了钱,真正值得关注的问题就不再关于模型,而是关于模型之外的一切。

模型只是一个组件

一个有能力的模型是必要的,却远远不够。在操作发生之前,组织需要回答一些平常的运营问题:

• 谁在操作,拥有何种权限? 是身份与权限,而不是一把共享的 API 密钥。
• 此处是否允许这一操作? 是在上下文中评估的策略。
• 它是否可逆? 草稿不是付款,二者的控制理应不同。
• 是否需要人工审批? 对于高影响操作,往往需要。
• 留下了什么证据? 足以在日后重建这次决策。

这些都不在模型内部,而在模型之外的那一层。

只读、可逆、不可逆

一个简单的分类承担了大部分工作。只读操作——检索、取回、摘要——所需控制最轻。可逆的写操作——草稿、待定标签——可在生效前复核。不可逆或高影响操作——发送、批准、删除——正是策略、人工审批与证据发挥作用之处。

“AI 提出建议,由人作出决定。” 所需的人的角色取决于上下文与风险;它不是普适规则,也不是合规主张。

受治理的运行层带来了什么

运行层位于有能力的模型与真实系统之间,并执行边界:身份与权限、策略评估、工具访问、敏感数据控制、审批、受治理的执行,以及沿途捕获的证据。这正是“一个令人信服的演示”与“一个组织能够真正运行并为之背书的系统”之间的差别。