运行治理与内容安全
大约 2 分钟业务引擎开发指南
统一运行治理
模型调用、应用、智能体、知识问答和创作任务使用统一记录体系。接口密钥负责开放接入,资源授权控制使用范围,执行记录描述一次调用,会话承载连续交互,用量用于统计消耗。
一、记录分工
| 记录 | 回答的问题 |
|---|---|
| 会话 | 用户围绕什么主题持续交互 |
| 消息 | 某轮输入和回答是什么 |
| 运行 | 哪个资源通过什么渠道执行,结果与耗时如何 |
| 用量 | 使用哪个模型、用途及消耗多少 |
| 内容安全命中 | 哪段输入或输出触发了哪条处置规则 |
运行状态包含运行中、成功、失败、已停止;渠道区分网页、API、嵌入、微信和调试。一次运行可能包含多次模型调用:运行次数按运行记录统计,模型消耗按用量记录统计。
二、密钥与资源
超级密钥在运营治理中签发,资源密钥在对应资源工作区签发;服务端保存前缀和摘要,明文仅在签发时返回。平台、应用、智能体和知识作用域分别限定调用入口与资源,超级密钥使用平台作用域。
资源授权分为使用、编辑、管理三个等级。开放密钥、平台按钮权限和资源授权属于不同层次,业务接口在各自入口执行对应检查。
三、内容安全
词条按分类和方向检测,处置级别包括提示、替换和拦截。平台策略与资源策略决定是否参与检测,命中记录保留输入/输出方向、词条与处置结果。
流式结果
流式内容检查与模型正常结束分开处理。被拦截的回答以 content_filter 作为结束原因,调用方据此与正常完成的回答区分展示。
引擎入口为 core 的 inference/sensitive。扩展检查能力时保留同步与流式的相同业务语义,以及命中记录与本次运行的关联。
四、排查顺序
先按资源、时间或会话找到运行,检查状态、异常与节点轨迹,再查看对应模型用量。统计页面用于观察趋势,具体失败原因应回到运行与服务日志。
