QuantumNous/new-api 项目介绍
该项目是一个统一的大模型网关与 AI 资产管理平台,由 QuantumNous 维护,基于开源项目 One API 二次开发,核心定位是将多种大模型服务聚合到一个入口,并以统一/可转换的 API 格式对外提供,同时承担用量统计、成本核算、权限管理等企业级功能。
这个项目是做什么的
- 提供统一的 AI 模型接入网关,实现多模型聚合与分发。它支持将各种主流 LLM 的请求转换为 OpenAI、Claude、Gemini 等兼容格式,让客户端可以用一套 API 访问不同厂商的模型。
- 面向个人和企业提供集中的模型管理能力,包括令牌(Token)分组、模型限制、用户管理、用量统计、成本核算、充值额度分配等。
- 可用于合法授权场景下的 API 网关、组织内部鉴权、多模型管理、用量统计、成本核算和私有化部署。
解决什么问题
- 解决多家 AI 模型 API 格式不统一、管理分散的问题,通过一个网关屏蔽底层差异。
- 解决企业内部多模型使用的鉴权、配额、计费、审计问题。
- 解决原版 One API 功能不足的问题,提供更现代 UI、更多模型格式支持、更细粒度的计费策略。
核心技术架构与实现思路
- 基于 Go 语言开发,兼容原版 One API 的数据库结构,可平滑迁移。
- 支持 SQLite 作为默认本地数据库,也支持 MySQL ≥ 5.7.8 和 PostgreSQL ≥ 9.6,并可通过环境变量切换。
- 支持 Redis 作为分布式缓存和多机部署的必要组件(需设置
REDIS_CONN_STRING)。
- 以 Docker / Docker Compose 为主要部署方式,也支持宝塔面板一键安装,仅支持 64 位系统(amd64 / arm64)。
- 内置智能路由:渠道加权随机、失败自动重试、用户级别模型限流。
值得关注的技术亮点
- 多格式转换能力:
- OpenAI Compatible ⇄ Claude Messages
- OpenAI Compatible → Google Gemini
- Google Gemini → OpenAI Compatible(仅文本,暂不支持函数调用)
- OpenAI Compatible ⇄ OpenAI Responses(开发中)
- 支持“思考转内容”功能
- API 格式覆盖广:支持 OpenAI Chat/Responses/Realtime(含 Azure)、Claude Messages、Google Gemini、Rerank(Cohere、Jina)、Midjourney-Proxy、Suno-API、Dify 等。
- Reasoning Effort 支持:可通过模型名后缀控制推理强度,如
o3-mini-high、gpt-5-low、claude-3-7-sonnet-20250219-thinking、gemini-2.5-pro-thinking 等。
- 完整的环境变量配置体系:包括
SESSION_SECRET(多机必需)、CRYPTO_SECRET(Redis 必需)、SQL_DSN、STREAMING_TIMEOUT、MAX_REQUEST_BODY_MB(防 zip bomb)等。
- 授权与安全:支持 Discord、LinuxDO、Telegram、OIDC 认证登录,并可通过配套工具
new-api-key-tool 查询 Key 额度。
- 成本管理细致:支持 OpenAI、Azure、DeepSeek、Claude、Qwen 等模型的缓存计费统计,支持按次、按量或缓存命中成本核算。
- 开源协议与上游关系:项目基于 One API(MIT 许可证)二次开发,本项目采用 AGPLv3 许可证。
快速部署示例(Docker)
# 使用 SQLite
docker run --name new-api -d --restart always \
-p 3000:3000 \
-e TZ=Asia/Shanghai \
-v ./data:/data \
calciumion/new-api:latest
# 使用 MySQL
docker run --name new-api -d --restart always \
-p 3000:3000 \
-e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" \
-e TZ=Asia/Shanghai \
-v ./data:/data \
calciumion/new-api:latest
部署完成后访问 http://localhost:3000 即可使用。