BOS API · 开源 AI 安全网关

管好公司的
AI 调用。

别让失控的密钥与账单拖垮业务。开源自托管,按团队独立发 Key,权限、审计与成本一步到位。

双向内容安全审计
完全自托管
按组织计量用量
BOS API双向安全 · 流程演示
  1. 客户端发送示例请求,进入 BOS API 网关。

  2. 核对 Key、组织权限、允许模型与供应商、QPS 和滚动额度。

  3. 在请求离开网关前检查输入内容,按配置规则执行检测与处置。

  4. 选择已配置且有权限的上游渠道与模型。

  5. 上游响应先回到 BOS API,再进入输出检测。

  6. 检查模型输出,核对规则结果与实际处置。

  7. 仅返回允许的内容,关联用量、请求与安全事件记录。

静态步骤始终可读。阻断场景为已配置阻断策略的示例,协议和流式检测范围以安全文档为准。
01 模型与权限管理

给每个团队
一把 Key。

在网关统一配置模型和组织权限,不用给每个应用单独管一套上游账号。

  • 集中配置供应商、渠道和自有模型端点
  • 按用途签发网关 Key,配置模型权限和用量额度
  • 用量和请求记录关联 Key,知道谁在用什么模型
了解模型与 Key 管理
BOS API / 控制台
模型资源示例数据
模型标识渠道访问范围
Cmodel-chatcloud-primary研发团队
Dmodel-codecloud-secondary研发团队
Lmodel-localprivate-endpoint内部应用
控制台交互示意 · 示例数据
配置演示

一个连续任务,
完成第一次模型调用。

上游渠道 → 组织 → API Key → 验证调用。所有数据均为虚构演示,不连接真实网关。

  1. 连接供应商与模型

    Provider
    Demo provider
    Base URL
    https://provider.example.com/v1
    模型
    demo-model
    上游凭据
    [DEMO ONLY]

    在供应商与模型管理中配置渠道、接入协议和模型,核对可用状态。

    阅读操作文档
  2. 分配明确的访问范围

    组织
    Demo Engineering
    授权渠道
    Demo provider
    授权模型
    demo-model

    创建 Demo Engineering 组织,分配刚配置的渠道与模型;未授权的资源不在访问范围内。

    阅读操作文档
  3. 为应用创建受限 Key

    名称
    demo-workspace
    归属组织
    Demo Engineering
    模型限制
    demo-model
    QPS
    5
    滚动额度
    10,000 tokens / 24h
    Key
    sk-demo-••••

    选择该组织,设置名称、模型限制、QPS 和滚动额度,再查看连接参数。这里的额度仅为演示配置。

    阅读操作文档
  4. 从配置走到首次调用

    请求标识
    req_demo_01
    模型
    demo-model
    归属 Key
    demo-workspace
    结果
    200 OK · 128 tokens

    使用该 Key 调用已授权模型,再到用量和调用记录核对请求标识、状态与 Token。

    阅读操作文档

演示数据与界面结构示意;实际操作以当前版本后台与对应文档为准。

02 模型调用安全

输入输出
都过一道安检。

在网关集中检查请求和回复,安全事件帮你追查风险来源。

  • 输入凭证检测

    请求里带了密码或密钥?网关识别并记录,安全团队可以后续复核。

  • 模型输出检查

    检查模型回复里的指定代码标记,记录命中位置,方便业务复核。

  • 安全事件追溯

    把规则、命中位置和请求记录关联起来,查风险来源不用跨系统找。

查看安全策略与检测范围
输入检测 · 输出检查 · 事件追溯
请求输入凭证特征检测password=[REDACTED]
模型调用
模型输出代码标记检查<script [omitted]

安全事件

命中详情
检测规则 · 来源 · 命中位置
处置核查
规则命中记录与实际处置结果
调用追溯
通过请求标识关联调用记录
安全检测流程示意 · 示例内容

检测与处置范围、流式支持及事件留存说明,详见安全治理文档。

03 接入方式

改一行地址,
就接上了。

把现有 SDK 的 base URL 换成网关地址,配上 Key 和模型 ID,就行了。

查看 SDK 与 API 接入文档
Terminal
curl --fail-with-body "https://bosapi.example.com/v1/chat/completions" \
  -H "Authorization: Bearer $BOS_GATEWAY_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR_MODEL_ID",
    "messages": [
      {"role": "user", "content": "Say hello in one sentence."}
    ]
  }'

OpenAI 兼容接口示例。Key 通过环境变量注入,替换网关地址与模型 ID 后即可使用。

按规模选择

个人自托管免费,
团队按需升级。

从个人自托管到企业治理,按团队需要选择。

个人与自托管探索

Community

$0

免费自托管

2 独立组织20 API Keys
  • 基础网关、管理界面、供应商与模型配置
  • 模型与供应商访问控制
  • QPS、滚动额度、用量与请求记录
  • 基础安全检测
免费自托管 →
多团队共用网关

Business

$149/月

扩展组织与 Key 规模,获得更及时的技术支持。

20 独立组织500 API Keys
  • 包含 Team 所列增强能力
  • 组织规模提升至 20,Key 提升至 500
  • 更及时的技术支持
大型与受监管企业

Enterprise

定制报价

围绕部署拓扑、治理与支持需求定制。

按请求量、规模与支持范围定制
  • 请求量、QPS、环境与拓扑定制
  • 私有化、隔离网络与容灾
  • 定制审计、企业身份与密钥集成
  • 上线评估、升级协助、7×24 支持
客户端接入

有了网关 Key,连接到你用的工具。

CC Switch 支持一键导入,Vary AI 负责配置管理和本地路由。

CC Switch了解 Vary AI
开源交流与反馈

与社区一起构建。

Discord 用于开源交流;商业方案请使用套餐页的销售咨询。

加入 Discord 社群

如外部网站无法访问,请检查网络,或使用 站内文档 及 销售咨询。

在你自己的服务器上,部署企业 AI 网关。

免费开始快速开始
BOS API · TYPEX

销售咨询暂不可用

暂时无法初始化销售接待,请稍后重试。你仍可查看文档并免费自托管。

查看文档免费自托管