安全治理:输入、输出与事件

理解输入凭证、提示注入特征、输出代码标记与事件追查,核对命中与实际处置。

概念与准备指南更新于 2026-10-28

输入中的凭证特征

输入检测关注请求内容中的密码、密钥等凭证特征。理解一条命中时,先核对触发的规则、输入位置及相应处理方式。检测范围和具体行为需与部署版本对应。

使用合成测试值验证规则,不把真实密码或生产 Key 放入测试请求。某种凭证特征被识别,不能推导所有敏感信息都能被识别。

模型输出中的代码标记

输出检查关注回复中配置的代码标记。沿着来源、命中位置与关联调用复核内容,再根据业务场景理解命中含义。

代码标记命中不是恶意代码判定,也不等于通用漏洞扫描或代码安全审计。非流式响应与流式分片的覆盖需要分别验证。

提示注入特征与检测边界

确定性检测按字段区分请求提示、模型输出与工具内容,识别指令覆盖、隐藏指令、凭证索取和外传等内置特征;各特征适用方向不同。检测包含规范化视图和有界的 Base64、十六进制、URL、Unicode 转义解码,证据定位回原始字段位置。

当前网关内置内容检测命中以 observe 记录;以注入规则标识记录的事件分类为 injection、严重级别为 high,不代表请求已被阻断。同步扫描设置 50 ms 截止时间,超时时返回 allow,不能把没有事件视为已完整扫描或内容安全。流式分片、不同协议及工具路径仍需逐项验证。

observe_hit、untrusted_upstream、encoded_fragment 和 instruction_like 是诊断日志中的弱信号,仅用于可观测性,不改变放行、阻断、脱敏或路由,也不表示已执行模型分析。

把检测、记录与阻断分开核对

仅记录命中和实际阻断必须区分。本文不声明所有规则已具备或已验证这些处置方式;按版本说明与可复查的测试结果确认。

  • 检测:规则是否识别了预期内容,命中位置是否准确。
  • 记录:是否形成事件,事件能否关联到对应请求。
  • 处置:请求或响应实际发生了什么,是否继续、改写或阻断。不要从规则名称或事件出现推导处置结果。

沿安全事件追查

  • 核对规则、事件来源、命中位置与实际处置。
  • 保留请求标识,用于核对对应调用、错误和用量记录。
  • 按角色确认谁可读取事件与上下文,避免把事件可见性等同于隔离已验证。

访问与凭证的管理边界

应用使用网关 Key,网关连接上游服务使用 Provider 凭证。围绕组织、角色、模型授权及适用的 IP 规则确认访问边界,分别验证允许与拒绝场景。

界面中隐藏凭证、加密存储、受控解密、日志脱敏与数据清理是不同的验证对象,不能用其中一项替代其他项。

事件上下文与数据保留

事件中的脱敏展示只说明该展示的内容形式,不能证明原始请求或响应未进入数据库、日志或遥测。保留字段、可访问角色、保留周期和清理结果需分别核对。

按部署版本核对具体能力与操作。 查看文档适用范围

BOS API · TYPEX

销售咨询暂不可用

暂时无法初始化销售接待,请稍后重试。你仍可查看文档并免费自托管。

查看文档免费自托管