Menlo Research(janhq)的开源桌面应用,主打本地下载模型离线聊天,同时可在 Settings > Model Providers 加云端服务商 API Key 使用 GPT/Claude 等;自带本地 OpenAI 兼容 API Server(127.0.0.1:1337)。适合隐私敏感用户:日常用本地,难题切到 LIN 网关的云模型,同一界面切换。

适用场景:律师/财务等不愿把资料上云的人群;开发者拿它当本地模型管理器,再把 LIN 作为云端后备。

Jan 本地模型 隐私 离线 桌面 本地API服务器

操作步骤

  1. 从官网/GitHub Releases 下载对应系统版并安装
  2. 先试本地:Hub 里按硬件适配提示(Fits/May be slow/Won't fit)选一个小模型下载聊天确认离线可用
  3. 再加云端:Settings > Model Providers 添加服务商、粘贴 LIN 的 {{API_KEY}} 并按该版本表单填自定义地址(如该版本仅支持预置服务商,则改走其兼容入口并在专栏注明版本限制)
  4. 新对话里在本地模型与云模型之间切换各问一句验证路由
  5. 需要给其他应用供模型时打开 Local API Server 并记下 1337 端口地址

配置说明

Jan 的自定义 base_url 能力随版本变化较大,不像 Chatbox/Cherry 有稳定的「自定义 OpenAI 服务商」表单,写 LIN 接入步骤前必须按目标版本实测一遍再发;它更稳的卖点是本地+云双模式而非任意网关直连。

开源项目信息

  • 仓库:https://github.com/janhq/jan
  • Stars 口径:AnyGen 称 'showed 44.1K stars when checked on August 24, 2026'
  • 许可:来源冲突:AnyGen 与 Open WebUI 文档页称 Apache 2.0,appindex 与 olud.ai 称 AGPL/AGPL-3.0,另有博客误写 MIT——专栏应注『许可来源不一致,以仓库 LICENSE 为准』,不要替它定性

注意事项

  • ⚠️ 把 Jan 当纯网关客户端宣传导致用户找不到填地址入口
  • ⚠️ 本地模型下载过大撑爆磁盘/选了 Won't fit 的模型卡死
  • ⚠️ 开了本地 API Server 暴露到局域网未设限

来源:https://www.anygen.io/showcase/jan-ai/index.html(含 stars/license 与 Model Providers 路径);项目自述见 https://docs.openwebui.com/alternatives/jan/