第三方自托管指南给出的最小验证法:不要一上来灌全部账号和成员。先一条链路端到端跑通,并核对请求落账的 user / key / group / account / model / token 数 / 扣费是否都对,再放量。

适用场景:LIN 的团队客户第一次开通路由,或运营方新上线一个分组时。

上手 最小链路 验收清单

操作步骤

  1. 在 Account Management 加 1 个上游账号或 API Key(该指南用词,注明标签随版本变)。
  2. 建 1 个 group 并把该账号挂进去;通过该组暴露 1 个 model alias。
  3. 建 1 个非管理员测试用户,给小额 balance/quota。
  4. 给该用户建 1 把 Sub2API Key,并限制到该 group。
  5. 用该 Key 发一个小请求(OpenAI Responses 兼容路径示例见原文),再回 Dashboard 核对 user、key、group、account、model、token count、charge 六项归属。
  6. 追加负面测试:无效 Key、余额耗尽的用户、上游不可用——确认访问是“干净地停”,而不是悄悄打到错误模型。
  7. 再测团队真实客户端依赖的行为:流式、长响应、tool calls、模型别名映射、用量/缓存记账、并发限制、上游错误透传。

配置说明

客户端侧变量名(原文示例):OpenAI 兼容用 OPENAI_BASE_URL / OPENAI_API_KEY;Claude Code 用 ANTHROPIC_BASE_URL / ANTHROPIC_AUTH_TOKEN。填的是平台 Key,不是上游凭据。

注意事项

  • ⚠️ 只验“返回 200”就宣布跑通——归属记账错了,后面成本分摊全错。
  • ⚠️ 跳过负面测试:额度耗尽不拦截、Key 无效还能调,都是上线后才爆的雷。

来源:https://dev.to/skedaddle/how-to-self-host-an-ai-api-gateway-with-sub2api-3i99