QuantumNous /new-api
Open-source AI gateway. Self-hosted LLM gateway with OpenAI-, Claude- and Gemini-compatible APIs, model routing, access control, usage tracking and cost accounting.
★ 51,957⑂ 12,678👁 161⑃ 3,645● 3,991▤ 538
+35
日增长
+353
周增长
+2,161
月增长
51,957
stars
12,678
forks
161
watchers
3,645
prs
3,991
issues
538
releases
README
!new-api
New API
连接模型、应用与 Agent 的 AI 网关
简体中文 |
繁體中文 |
English |
Français |
日本語
项目截图 •
核心能力 •
快速开始 •
部署运维 •
开发扩展 •
文档社区
---
📝 项目说明
New API 是面向应用、Agent 和团队的自托管 AI 网关。将不同厂商的模型服务接入统一入口,在同一套控制台中管理渠道、访问权限、用量与成本。
你可以用它为团队分配已授权的模型资源,在切换上游时减少客户端改动,或搭建自己的多模型服务。支持接入 OpenAI、Anthropic、Google Gemini、Azure OpenAI、AWS Bedrock、Vertex AI、DeepSeek、通义千问及其他兼容服务。
[!IMPORTANT]
- 本项目仅面向合法授权的 AI API 网关、组织内部鉴权、多模型管理、用量统计、成本核算和私有化部署场景。
- 使用者必须合法取得上游 API Key、账号、模型服务或接口权限,并遵守上游服务条款及适用法律法规。
- 使用者应确保其使用方式符合上游服务条款及适用法律法规。
- 面向公众提供生成式人工智能服务时,使用者应遵守《生成式人工智能服务管理暂行办法》等监管要求,自行完成所在司法辖区要求的备案、许可、内容安全、实名、日志留存、税务和上游授权等合规义务。
[!WARNING]
将本项目作为面向公众的生成式 AI 服务或 API 转售服务运营时,使用者应先完成备案、内容安全、实名、日志留存、税务、支付和上游授权等合规义务。
---
项目截图
以下账号、渠道、插件安装状态、用量、价格和费用均为模拟数据,插件市场展示官方目录。点击图片可查看原图。
| 数据看板 | 插件市场 |
| --- | --- |
| | |
| 模型广场 | 使用日志 |
| | |
---
🤝 我们信任的合作伙伴
排名不分先后
---
🙏 特别鸣谢
感谢 JetBrains 为本项目提供免费的开源开发许可证
---
核心能力
| 方向 | 可以做什么 |
| --- | --- |
| 模型接入 | 支持 OpenAI Chat Completions、Responses、Anthropic Messages 和 Gemini 协议,以及上游支持的流式输出、工具调用、推理与多模态输入 |
| 渠道调度 | 配置模型映射、渠道优先级与权重、失败重试、渠道亲和性和多密钥管理 |
| 用量与成本 | 管理额度、订阅套餐、用量日志、缓存计费,以及基于表达式的阶梯定价 |
| 访问控制 | 管理用户、分组、细粒度权限和 API Key 限制;支持 OAuth/OIDC、通行密钥、两步验证与登录会话管理 |
| 异步任务 | 通过 JavaScript 插件扩展图片、视频等任务 API,统一查询任务状态和获取产物 |
| Web 控制台 | 配置渠道与模型、查看用量和审计日志、在 Playground 中调试模型;支持简体中文、繁体中文、英语、法语、日语、俄语和越南语 |
协议与接口
| 接口类型 | 常用入口 |
| --- | --- |
| OpenAI Chat / Responses | POST /v1/chat/completions、POST /v1/responses |
| Anthropic Messages | POST /v1/messages |
| Gemini | POST /v1beta/models/{model}:generateContent、POST /v1beta/models/{model}:streamGenerateContent |
| Realtime / Responses WebSocket | GET /v1/realtime、GET /v1/responses(WebSocket 升级) |
| 图片 / 音频 | /v1/images/generations、/v1/images/edits、/v1/audio/speech、/v1/audio/transcriptions、/v1/audio/translations |
| 向量 / 重排 | POST /v1/embeddings、POST /v1/rerank |
| 任务插件 | POST /v1/tasks/{pluginKey}、GET /v1/tasks/{taskId},以及各插件声明的协议路由 |
RelayKit 提供上述四种文本协议之间的请求、响应和流式转换。实际可用能力取决于渠道、上游模型和转换路径;协议特有的工具与字段可能无法完整映射。WebSocket 同样需要上游与渠道配置支持。
本 README 描述当前源码的能力,部署时请同时查看所选版本的发布说明。
快速开始
使用 Docker 本地体验
以下命令使用 SQLite 启动单实例,仅监听本机端口:
bash
mkdir -p data
docker run --name new-api -d --restart unless-stopped \
-p 127.0.0.1:3000:3000 \
-e TZ=Asia/Shanghai \
-v "$(pwd)/data:/data" \
calciumion/new-api:latest
打开 http://localhost:3000,按初始化向导创建管理员账号。SQLite 数据库存放在挂载的 data 目录中,更换容器后仍会保留。
发起第一次请求
1. 新建渠道,填写上游 API Key、可用模型和所属分组,执行渠道测试。
2. 配置模型价格,确保调用用户有可用额度或有效订阅。
3. 在控制台创建 API Key,确保它能访问对应分组和模型。
4. 对于 OpenAI 兼容客户端,将 Base URL 设为 http://localhost:3000/v1,密钥使用 New API 签发的 Key。
在终端中将 NEW_API_KEY 环境变量设为该密钥,查询它可以访问的模型:
bash
curl --fail-with-body http://localhost:3000/v1/models \
-H "Authorization: Bearer ${NEW_API_KEY}"
然后调用 Responses,将 your-enabled-model 替换为已启用且支持该接口的模型名称:
bash
curl --fail-with-body http://localhoTop issues
#4543[BUG] ClaudeCode 使用 OpenAI 格式接入的 Deepseek V4 上游会遇到 400 `reasoning_content` 报错27 comments · 2026-04-29#1618接入claude code会报错25 comments · 2025-08-19#7260希望增加统一素材管理(Asset/Material)能力17 comments · 2026-09-08#4711[Feature] 为 /v1/images/generations 增加异步任务模式(提交 + 查询)14 comments · 2026-05-09#2845希望增加兑换码(订阅码)兑换订阅套餐的功能13 comments · 2026-02-05#5966使用高级自定义渠道之后游乐场聊天提示 无可用渠道(distributor)12 comments · 2026-07-07#4242希望支持可灵模型按官方方式计费12 comments · 2026-04-14#2822[Feature Request] Openrouter支持/v1/messages和/v1/responses 原生端点12 comments · 2026-02-03
Discussions
#8206【开源】基于 New API 原版模型广场改造:选好分组一键开通 API Key + 比官方省多少 + 树状卡片 + 多模型对比0 comments · 2026-11-04#8191使用codex帐号,都没有碰到帐号容易超select model is at capacity.Please try a different model的错么0 comments · 2026-11-04#8187(已撤回)关于提交 icon 到 simple-icons0 comments · 2026-11-03#8137咨询:Responses WebSocket 是否考虑支持 Codex 的 response.interrupt 扩展事件?0 comments · 2026-10-31#8134[Show and tell] newapi-operator:给自建 New API 的管理 MCP,47 个工具 + 全量接口透传0 comments · 2026-10-31#8056[Show and tell] 消费公开报价数据做的中文查询页:分组、计费单位与采集边界0 comments · 2026-10-27#7826接口报错了0 comments · 2026-10-15#7788Session Affinity or Sticky Session1 comments · 2026-10-13
Latest release
v1.0.0-rc.51 v1.0.0-rc.51 2026-11-13[!IMPORTANT] 修复 v1.0.0-rc.50 在有 AES-NI、没有 AVX 的 x86-64 CPU 上崩溃并反复重启的问题(8314)。Celeron、Pentium、Atom 一类 CPU(如 J4125)和只提供 AES、不提供 AVX 的虚拟机会受影响:处理聊天等请求时进程因 SIGILL 退出,模型列表和管理后台仍能打开,看起来像间歇性的 502。在这类机器上运行 rc.50 的请升级到本版本。 本版本包含 rc.50 新增的提供商插件、请求处理插件和社区插件市场。提供商插件把一个上游厂商接成一种渠道;请求处理插件在请求和回复上运行,可以按全局、分组、渠道和模型生效。从 rc.49 或更早版本升级时请注意下面几点。 原敏感词设置在首次启动时迁成一个「请求过滤」实例,旧设置项会被删除。命中时返回 400 request_rejected,原来是 500 sensitive_words_detected。回滚到旧版本后敏感词检查是关闭的,需要重新填写。 多节点部署:设置、权限、插件、渠道等手动改动几秒内同步到所有节点。CHANNEL_UPDATE_FREQUENCY 的定时余额更新改为只在主节点运行。超过 30 天的已结束系统任务会被自动删除,需要保留更久的请先在 系统设置 → 运维 → 日志维护 里改保留天数。 Vertex AI 插件 1
相关报道 (9)
blog.csdn开源AI网关应用New API —— 筑梦之路2026-09-05blog.csdn日志治理新范式:GitHub加速计划(new-api)的完整日志管理实战指南2026-02-03https://www.80aj.com/开源项目team-api发布:企业级大模型API网关,主打权限隔离与团队管理2026-09-26新浪财经傅盛新品陷“换皮”风波:被指套壳开源项目2026-05-04腾讯新闻月入百万的 AI中转站,钱到底从哪来?2026-04-26www.80aj.com告别手动配置:开源工具 new-api-sync 实现多 AI 渠道自动化同步2026-04-1336KrOpenAI和Anthropic世纪联手,codex-plugin-cc震动AI圈,两大巨头开放王炸产品2026-03-3080aj.com多模型API管理的痛点:开发者实测New API与Octopus2026-02-05CSDN博客「免费额度」秒变40万债务?学生误泄Gemini API密钥背上巨额账单:开发者社区炸锅,谷歌最终免单2025-09-28
News & coverage (6)
githubNew API endpoint provides privacy-safe star history data2026-09-04ZDNetOver 100,000 GitHub repos have leaked API or cryptographic keys2019-03-21The GitHub BlogOpen source license compliance generally available2026-10-16Business Wire42Crunch and GitHub Copilot Bring Deterministic API Security Guardrails to Agentic DevSecOps2026-06-17The GitHub BlogNew enterprise installation API now in public preview2026-05-13TechGigGitHub Proposes HTML-in-Canvas for Enhanced Rendering2026-04-11