经验案例
Claude Code 接入
用环境变量指向 Anthropic 兼容端点。
阅读全文 →经验案例
Codex CLI profile 配置
在 provider 和 profile 中配置地址、模型和 Key。
阅读全文 →经验案例
Cursor / Cline / OpenCode / Aider 接入
统一填 Base URL、Key 和模型名。
阅读全文 →经验案例
常见报错排查
先查模型名、路径、Key 分组和工具支持。
阅读全文 →github_project
LangChain — 最通用的 LLM 应用 / Agent 组件框架
用可组合组件（模型、提示词、检索器、工具、输出解析）拼聊天、RAG 和 Agent 应用；ChatOpenAI 直接接受 base_url，是把任何 OpenAI 兼容 API 接进现成生态最短的路。
阅读全文 →github_project
LangGraph — 有状态、可恢复的生产级 Agent 编排
LangChain 团队的图式编排运行时：节点+边+显式状态，带 checkpoint 持久化、human-in-the-loop 中断、流式输出。适合长任务、要审批/可回放的 Agent，不是写 d
阅读全文 →github_project
LlamaIndex — 以数据/RAG 为核心的应用框架
主打把私有数据（PDF、API、SQL、文档）接入 LLM：数据连接器、索引、检索/查询引擎一整套，做文档问答和数据 Agent 比从零拼向量库省事得多。
阅读全文 →github_project
LiteLLM — 100+ 模型统一成 OpenAI 格式的 SDK + 代理
两件东西：Python SDK（litellm.completion() 一个接口调各家模型）和可自托管的 Proxy 网关（虚拟 Key、预算、限流、fallback、用量统计）。即便用户已经用本站
阅读全文 →github_project
Instructor — 把 LLM 输出变成可靠的结构化数据
基于 Pydantic 的结构化输出库：定义一个模型类，就能拿到校验过的对象，自动处理 JSON 解析、校验失败重试、部分流式结果。做信息抽取、打标、表单填充的事实标准之一。
阅读全文 →github_project
PydanticAI — 类型安全的 Python Agent 框架
Pydantic 团队的 Agent 运行时：类型化工具、结构化输出、依赖注入、流式和可观测性。官方 OpenAIProvider 明确支持 base_url 参数，未传时读 OPENAI_BASE_
阅读全文 →github_project
Vercel AI SDK — TypeScript / Next.js 做 AI 界面的标准库
TS 工具包：统一的 generateText / streamText、工具调用、结构化输出（Zod）、React 的 useChat 等 hooks。其 @ai-sdk/openai-compat
阅读全文 →github_project
CrewAI — 角色分工式的多 Agent 快速原型
用「角色+目标+背景故事」定义一队 Agent（Crew）分工干活，再用 Flows 做流程控制；独立实现、不依赖 LangChain，上手是同类框架里最快的，适合内容流水线、调研报告、批量处理类任务
阅读全文 →github_project
smolagents — Hugging Face 的极简「写代码干活」Agent 库
极简 Agent 库，特色是 CodeAgent 直接写并执行 Python 代码作为动作，而不是只吐 JSON 工具调用。其 OpenAIServerModel(model_id, api_base
阅读全文 →github_project
Cline — VS Code 里的开源自主编程 Agent（自带 Key）
装进 VS Code 的 Agent 扩展：读文件、改多文件、跑终端、开浏览器验证，每一步执行前要你确认，还有 Plan/Act 双模式和 Checkpoint 回滚。内置「OpenAI Compat
阅读全文 →github_project
Aider — 终端里的 Git 原生 AI 结对编程
命令行结对编程工具：理解整个 Git 仓库（repo map）、直接改文件、每次改动自动生成提交信息并 commit，可跑 lint/测试并自我修正。通过 LiteLLM 接 100+ 提供商，Ope
阅读全文 →github_project
Model Context Protocol（MCP）— 给 Agent 接工具的通用协议与官方 SDK
标准化「Agent 怎么连工具/数据源」的协议：一个 MCP Server 把工具、资源、提示词模板暴露出来，任何 MCP 客户端（Cline、Continue、各类 Agent 框架）都能复用。官方
阅读全文 →case
优秀案例：一个兼容端点喂饱五个编程助手（Cline / Continue / Aider 等）
多篇实操文章验证了同一模式：Cline、Continue、Aider、Cursor 等工具的「base_url 到底填在哪」互不相同，但只要端点是 OpenAI 兼容的，同一套 Base URL +
阅读全文 →experience
实操：流式输出要按「真流式」写，不要假装即时
聊天类产品的体感差距几乎全在流式：服务端开 stream=True 逐块转发、前端逐块渲染，并处理「首 token 前失败可重试、生成中途断开不可无脑重试」的区别。中文实操文把超时拆成连接、首事件（T
阅读全文 →experience
实操：重试、超时与模型 fallback——只重试「重试有用」的错误
生产事故里最常见的不是不会重试，而是乱重试：401/400 重试到天荒地老、429/5xx 又不退避。正确分工是：429/5xx/超时/连接错误才指数退避+抖动重试；400/401/404 立刻停、修
阅读全文 →experience
实操：结构化输出——先分清 JSON Mode、Structured Outputs 和函数调用
三者经常被混为一谈：JSON Mode 只保证「是 JSON」，不保证符合你的 schema；Structured Outputs（strict: true / response_format 带 J
阅读全文 →experience
实操：Function / Tool Calling 的五步闭环与工具设计
函数调用的标准闭环是：定义工具 schema → 模型返回 tool_call → 你的代码执行函数 → 把结果作为 tool 消息回喂 → 模型给出最终回答。模型只负责「选工具、填参数」，真正执行永
阅读全文 →experience
实操：成本与多模型路由——便宜活别用贵模型干
账单优化按性价比排序，先做这四件：①按任务难度路由——分类/抽取/摘要用便宜小模型，规划/代码/复杂推理才用旗舰，来源案例称静态路由表就能吃掉大部分收益；②提示词结构为缓存让路——长而稳定的 syst
阅读全文 →