new-api，基于one-api修改的LLM接口管理和分发系统

简介

AI 模型接口管理与分发系统，支持将多种大模型转为统一格式调用，支持 OpenAI、Claude 等格式，可供个人或者企业内部管理与分发渠道使用，基于 One API 二次开发。

特性

New API 提供了丰富的功能，详细特性请参考特性说明：

🎨 全新的 UI 界面
🌍 多语言支持
💰 支持在线充值功能（易支付）
🔍 支持用 key 查询使用额度（配合neko-api-key-tool）
🔄 兼容原版 One API 的数据库
💵 支持模型按次数收费
⚖️ 支持渠道加权随机
📈 数据看板（控制台）
🔒 令牌分组、模型限制
🤖 支持更多授权登陆方式（LinuxDO,Telegram、OIDC）
🔄 支持 Rerank 模型（Cohere 和 Jina），接口文档
⚡ 支持 OpenAI Realtime API（包括 Azure 渠道），接口文档
⚡ 支持 Claude Messages 格式，接口文档
支持使用路由/chat2link 进入聊天界面
🧠 支持通过模型名称后缀设置 reasoning effort：
1. OpenAI o 系列模型
  - 添加后缀 -high 设置为 high reasoning effort (例如: o3-mini-high)
  - 添加后缀 -medium 设置为 medium reasoning effort (例如: o3-mini-medium)
  - 添加后缀 -low 设置为 low reasoning effort (例如: o3-mini-low)
2. Claude 思考模型
  - 添加后缀 -thinking 启用思考模式 (例如: claude-3-7-sonnet-20250219-thinking)
🔄 思考转内容功能
🔄 针对用户的模型限流功能
💰 缓存计费支持，开启后可以在缓存命中时按照设定的比例计费：
1. 在 系统设置-运营设置 中设置 提示缓存倍率 选项
2. 在渠道中设置 提示缓存倍率，范围 0-1，例如设置为 0.5 表示缓存命中时按照 50% 计费
3. 支持的渠道：
  - OpenAI
  - Azure
  - DeepSeek
  - Claude

部署

docker

1

sudo docker run --name new-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/new-api:/data calciumion/new-api:latest

docker-compose

1

sudo mkdir -p /opt/new-api

1
2


cd /opt/new-api
sudo vim /opt/new-api/docker-compose.yml

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12


version: '3.9'
services:
    new-api:
        image: 'calciumion/new-api:latest'
        volumes:
            - './data:/data'
        environment:
            - TZ=Asia/Shanghai
        ports:
            - '3000:3000'
        restart: unless-stopped
        container_name: new-api

启动

1

sudo docker compose up

反向代理

Nginx

模板

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12


server {
    listen 80;
    server_name domain.com;

    location / {
        proxy_pass http://127.0.0.1:3000;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}