Community
免费自托管
- 基础网关、管理界面、供应商与模型配置
- 模型与供应商访问控制
- QPS、滚动额度、用量与请求记录
- 基础安全检测
客户端发送示例请求,进入 BOS API 网关。
核对 Key、组织权限、允许模型与供应商、QPS 和滚动额度。
在请求离开网关前检查输入内容,按配置规则执行检测与处置。
选择已配置且有权限的上游渠道与模型。
上游响应先回到 BOS API,再进入输出检测。
检查模型输出,核对规则结果与实际处置。
仅返回允许的内容,关联用量、请求与安全事件记录。
在网关统一配置模型和组织权限,不用给每个应用单独管一套上游账号。
| 模型标识 | 渠道 | 访问范围 |
|---|---|---|
Cmodel-chat | cloud-primary | 研发团队 |
Dmodel-code | cloud-secondary | 研发团队 |
Lmodel-local | private-endpoint | 内部应用 |
| 应用 / Key | 归属组织 | 授权模型 |
|---|---|---|
| workspace-appsk-demo-····a1b2 | 研发团队 | model-chat |
| code-assistantsk-demo-····c3d4 | 研发团队 | model-code |
| internal-toolsk-demo-····e5f6 | 平台团队 | model-local |
| 请求标识 | 模型 | 排查线索 |
|---|---|---|
req_demo_01 | model-chat | 状态与耗时 |
req_demo_02 | model-code | 授权与渠道 |
req_demo_03 | model-local | Token 与用量 |
上游渠道 → 组织 → API Key → 验证调用。所有数据均为虚构演示,不连接真实网关。
在供应商与模型管理中配置渠道、接入协议和模型,核对可用状态。
阅读操作文档创建 Demo Engineering 组织,分配刚配置的渠道与模型;未授权的资源不在访问范围内。
阅读操作文档选择该组织,设置名称、模型限制、QPS 和滚动额度,再查看连接参数。这里的额度仅为演示配置。
阅读操作文档使用该 Key 调用已授权模型,再到用量和调用记录核对请求标识、状态与 Token。
阅读操作文档演示数据与界面结构示意;实际操作以当前版本后台与对应文档为准。
在网关集中检查请求和回复,安全事件帮你追查风险来源。
请求里带了密码或密钥?网关识别并记录,安全团队可以后续复核。
检查模型回复里的指定代码标记,记录命中位置,方便业务复核。
把规则、命中位置和请求记录关联起来,查风险来源不用跨系统找。
password=[REDACTED]<script [omitted]检测与处置范围、流式支持及事件留存说明,详见安全治理文档。
curl --fail-with-body "https://bosapi.example.com/v1/chat/completions" \
-H "Authorization: Bearer $BOS_GATEWAY_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "YOUR_MODEL_ID",
"messages": [
{"role": "user", "content": "Say hello in one sentence."}
]
}'# Install: python -m pip install openai
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["BOS_GATEWAY_KEY"],
base_url="https://bosapi.example.com/v1",
)
response = client.chat.completions.create(
model="YOUR_MODEL_ID",
messages=[
{"role": "user", "content": "Say hello in one sentence."}
],
)
print(response.choices[0].message.content)// Install: npm install openai
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.BOS_GATEWAY_KEY,
baseURL: "https://bosapi.example.com/v1",
});
const response = await client.chat.completions.create({
model: "YOUR_MODEL_ID",
messages: [
{ role: "user", content: "Say hello in one sentence." }
],
});
console.log(response.choices[0].message.content);Base URL https://bosapi.example.com/v1
API Key YOUR_BOS_API_KEY
Model YOUR_MODEL_ID
Protocol OpenAI-compatible / Chat CompletionsOpenAI 兼容接口示例。Key 通过环境变量注入,替换网关地址与模型 ID 后即可使用。
从个人自托管到企业治理,按团队需要选择。
免费自托管
组织级隔离与增强安全,支持团队协作。
扩展组织与 Key 规模,获得更及时的技术支持。
围绕部署拓扑、治理与支持需求定制。
CC Switch 支持一键导入,Vary AI 负责配置管理和本地路由。
Discord 用于开源交流;商业方案请使用套餐页的销售咨询。