数据总览

• OpenAI：prompt_tokens、completion_tokens、total_tokens，缓存读取来自明确返回的 cached_tokens；思考 Token 来自 completion_tokens_details.reasoning_tokens。completion_tokens 包含思考和可见正文。
• Anthropic：input_tokens、output_tokens、cache_read_input_tokens、cache_creation_input_tokens。
• 流式响应必须读取到结束事件后才能取得最终 usage；客户端提前断开会导致该请求无法按成功响应处理。
• 自建服务未返回的字段在平台记录中保持 null 并标记不可用，不会改成 0。

• OpenAI 的缓存 Token 是输入 Token 的子集；Anthropic 的输入与缓存读取 Token 分别计入。没有真实缓存字段时禁止猜测缓存命中率。
• held：请求已预占但尚未完成结算。
• settled：usage 完整，实际费用和余额快照已写入不可变账单。
• exception：自建服务 usage 缺失、字段不完整、全零或结算失败；自动重试的失败尝试会同时记录免单解决并释放冻结，未自动解决的异常保留等待人工处理。
• Anthropic 自建服务缺失 cache_creation_input_tokens 时，本次缓存创建量按明确 0 记录并正常结算；真实返回该字段时按真实值保存。缓存创建 Token 只作为 usage 与 TPM 证据，不收取或推断缓存存储费。

错误响应格式为 {"error":{"message":"...","status":"..."}}。Kimi K3 在响应开始前被自建服务明确以 HTTP 400 拒绝时，平台保留原始错误、免单并直接返回 400，不切换资源。其他自建服务调用在客户端尚未收到响应时失败，平台会排除失败资源并在另一可用资源上重试一次；第二次仍失败会同时返回两次请求 ID 和原始错误。流式响应一旦开始、客户端取消、参数校验、容量、数据库或计费错误均不会重试。

• OpenAI 与 Anthropic 消息接口，支持流式和非流式。
• Anthropic Token 预计算、工具调用字段和系统提示词；自建服务未返回 cache_creation_input_tokens 时按本次缓存创建量为明确 0 结算，自建服务真实返回时按真实值记录但不收取缓存存储费。输入、输出和缓存读取 usage 仍必须完整。
• GLM-5.2 的 json_object 支持流式和非流式调用。SeedToken 原样透传自建服务响应，不校验、剥离或改写正文；模型返回 Markdown 代码围栏、数组、null、额外文本或非法 JSON 时也保持原始内容。
• Kimi K3 与 DeepSeek V4 Pro 支持 json_schema，请求和自建服务响应均原样透传，结构约束由对应模型执行；SeedToken 不伪造、不补全或改写结构化输出。
• GLM-5.2 当前不支持 json_schema；请求会在调用自建服务前明确返回 HTTP 422。
• 当前只开放 Chat Completions、Anthropic Messages 和 Anthropic Token 预计算；Responses API 及其内置 web_search 尚未开放。
• OpenAI 的 max_tokens 只限制供应方生成的可见正文，不是完整 completion 的计费授权上限；max_completion_tokens 才限制思考与正文总和。SeedToken 原样保留客户端选择的字段，不擅自互换或放大。为覆盖思考 Token，max_tokens 请求会按模型最大输出与剩余上下文中的较小值预留 TPM，并按模型最大输出冻结钱包金额，最终只按自建服务真实 usage 结算并释放差额。
• 企业 owner / member 独立身份、独立 Key、MFA 与审计。
• 真实 Token、缓存命中、TPM、逐请求账单和钱包流水。
• 多个自建服务按配置并发权重调度；未开始向客户端响应的自建服务调用失败会换另一资源重试一次。
• 只允许模型列表中状态为 active 的模型；非 active 状态必须先由管理员完成对应配置。
• Key 更新后旧 Key立即失效；调用方必须显式替换。

Python

Node.js