Octoryn 平台
Octoryn Runtime
面向受治理 AI 应用的运行时,连接模型、策略、工具与业务系统。
概览
Octoryn Runtime 是面向“需要行动、而不只是对话”的 AI 应用的执行层——它在一个受治理的流程中把模型、策略、工具与业务系统连接起来。它不让应用直接调用模型并触发动作,而是在意图与实际效果之间置入身份、权限、策略、审批、执行、监控与回放,使每个动作都按其风险被分类和处理。它面向那些把 AI 驱动的行为放到真实系统近旁的组织——创建记录、触发工作流、搬运数据——在这些场景中,“是模型提议的”并不是一个可被接受的审计答复。Runtime 目前处于私有预览阶段,正与早期伙伴一起对照真实治理需求进行验证。
运作方式
确立身份与权限
每个请求都在一个已知身份与既定权限范围下运行,使运行时清楚是谁或什么在行动、被允许做什么。
分类动作
被提议的动作会被归类为只读、可逆或不可逆,由此决定每个动作需要多少审查与审批。
应用策略
策略决定某个动作可以进行、需要人工审批,还是必须拒绝,而该决定本身会被记录下来。
经受治理的工具执行
获批的动作通过定义好的工具接口作用于业务系统,并在过程中强制执行敏感数据边界。
监控与回放
每一步——来源、模型与版本、策略决定、工具调用、审批、输出与校验——都被记录,以便日后审查或回放某个动作。
核心能力
动作分类
Runtime 对只读、可逆与不可逆动作区别对待,把更强的管控与审批留给那些无法撤销的操作。
意图与效果之间的策略
模型的建议在策略允许之前不会变成实际动作,使“提议”与“裁定”保持分离。
人工审批与升级
更高风险的动作可以要求由人来批准,并在超出策略范围时提供清晰的升级路径。
敏感数据边界
当动作跨入外部工具与系统时,运行时强制约束敏感数据可以与不可以流向何处。
证据与回放
每个动作都带有其来源、决定与输出的防篡改记录,并可被回放以供审查。
失败即关闭
当某项检查无法满足时,默认是停止,而不是不安全地继续。
它不是什么
- 它不是一个无需监督、自行行动的完全独立代理——更高风险的动作被设计为交由人工审批。
- 它不是模型,也不是模型提供方;它治理模型被允许如何行动,而非模型内部的推理。
- 它不会让风险消失;它让动作变得可分类、有边界、可审查,而不是承诺一个无风险的结果。
集成
Runtime 通过定义好的工具接口连接业务系统,并接入你组织已在运行的身份与策略来源,使动作作用于你自己的系统,而非一个封闭花园。它以可导出的形式记录来源与决定,供你自己的审计与审查使用。具体的系统、连接器与数据流按每个项目评估,私有预览期间支持范围有限。
部署方式
- 托管云
- 我方云账户
- 私有云 / VPC
- 本地部署
示例用例
- 一个 AI 辅助的流程,可以自由读取,但在对记录系统做任何不可逆更改前必须获得人工审批。
- 让模型提议的动作先过策略,使涉及敏感数据的步骤在到达外部工具前被拒绝或脱敏。
- 为 AI 驱动的动作生成可回放的证据链,以满足事后的内部审查。
- 在托管云、客户云或本地部署上运行同一个受治理的应用,而无需重写其控制逻辑。
常见问题
Runtime 和直接调用模型 API 有什么不同?
直接调用 API 会让模型输出中间没有任何环节地变成动作。Runtime 在意图与效果之间置入身份、动作分类、策略、审批与证据链。要点在于不可逆动作是受治理的,而非自动触发。Runtime 会自行行动吗?
在策略之下,它可以执行低风险、可逆的动作,但更高风险与不可逆的动作被设计为需要人工审批。模型负责提议,关键之处由人裁定。这是刻意为之,而非有待去除的限制。我们能在自己的环境里运行 Runtime 吗?
客户云、私有云与本地部署等部署形态属于设计意图之内,因为可移植性对受治理的工作负载很重要。适用于你的具体选项按项目评估。Runtime 处于私有预览阶段,可用范围仍然有限。
