dekunopenai_node
本地 Ollama / OpenAI 兼容 大模型中转网关：统一鉴权、多节点按模型调度、Web 管理面板与流量统计。
代码仓库：https://git.bz121.com/dekun/openai_node.git
功能概览
| 模块 | 说明 |
|---|---|
| OpenAI 兼容 API | POST /v1/chat/completions，Bearer sk-... 鉴权，支持流式响应 |
| 多节点调度 | 按请求体中的 model 转发到不同机器/端口（nodes.json） |
| Web 控制台 | 首页模型分布卡片、流量统计、系统设置、用户中心 |
| 访问统计 | 记录客户端 IP、Token 用量、按节点汇总（SQLite） |
| 健康检查 | 定时探测各节点 /v1/models，首页显示中文状态 |
架构示意
客户端 / Cursor / 脚本
│
▼
宝塔 Nginx（443/80）──反代──► VPS :8150（本网关）
│ │
│ ├─ 鉴权 / 统计 / Web
│ │
│ ┌────────────┼────────────┐
│ ▼ ▼ ▼
│ 127.0.0.1:3313 :3314 :3315 …（frp 映射）
│ │ │ │
│ PC-A Ollama PC-B Ollama PC-C Ollama
- 对外只暴露一个域名，反代到网关 8150。
- 各家用/办公室电脑通过 frp 等内网穿透，把模型端口映射到 VPS 本机
127.0.0.1:3313等。 - 网关在 系统设置 中维护「端口 ↔ 模型」关系，无需为每台机器单独配公网域名。
环境要求
- 系统：Ubuntu 22.04 / 24.04（生产环境推荐）
- Python 3.10+
- 上游服务：Ollama（或其它 OpenAI 兼容 HTTP API）
- 生产建议：root 部署到
/opt/openai_node，PM2 守护；宝塔 或 Nginx 做 HTTPS 反代
快速开始（Ubuntu / root / /opt）
以下命令在 root 下执行，安装目录为 /opt/openai_node。
1. 安装系统依赖
apt update
apt install -y python3 python3-venv python3-pip git curl
# PM2 需要 Node.js（若未安装）
curl -fsSL https://deb.nodesource.com/setup_lts.x | bash -
apt install -y nodejs
npm install -g pm2
2. 克隆仓库
cd /opt
git clone https://git.bz121.com/dekun/openai_node.git
cd /opt/openai_node
3. 安装 Python 依赖
python3 -m venv venv
source venv/bin/activate
pip install -r requirements.txt -U
4. 配置文件
cd /opt/openai_node
cp gateway.json.example gateway.json
cp nodes.json.example nodes.json
chmod 600 gateway.json nodes.json
编辑 gateway.json：
{
"username": "admin",
"password": "你的强密码",
"api_key": ""
}
api_key 留空时，首次启动会自动生成 sk-... 并写回文件。
编辑 nodes.json（示例为 3 台节点，主机默认 127.0.0.1，端口 3313–3315）：
models[].id必须与调用 API 时 JSON 里的model字段完全一致（Ollama 模型名）。models[].label为 Web 卡片上的显示名。
5. 启动（调试）
cd /opt/openai_node
source venv/bin/activate
export JWT_SECRET="请改为长随机字符串"
python -m uvicorn main:app --host 0.0.0.0 --port 8150
生产环境请用 PM2，见 DEPLOY.md。
浏览器打开 http://127.0.0.1:8150：
| 路径 | 说明 |
|---|---|
/ |
首页：模型分布卡片 + 使用说明 |
/login |
管理员登录 |
/settings |
系统设置（节点/端口/模型，需登录） |
/stats |
流量统计、IP 列表、Token 账单 |
/user |
查看 / 复制 API Key |
调用示例
将 https://你的域名 换为实际地址（或 http://IP:8150 调试）：
curl https://你的域名/v1/chat/completions \
-H "Authorization: Bearer sk-xxxx" \
-H "Content-Type: application/json" \
-d '{
"model": "your-model-id-1",
"messages": [{"role": "user", "content": "你好"}],
"stream": true
}'
在 Cursor、OpenAI SDK 等客户端中：
- Base URL：
https://你的域名/v1 - API Key：
gateway.json中的api_key或用户中心页面复制
配置说明
gateway.json
| 字段 | 说明 |
|---|---|
username |
Web 登录用户名 |
password |
Web 登录密码（明文存储，请限制文件权限） |
api_key |
OpenAI 兼容 API Key，可自动生成 |
nodes.json
| 字段 | 说明 |
|---|---|
id |
节点唯一 ID（系统自动生成亦可） |
name |
显示名称 |
host |
上游主机，frp 场景填 127.0.0.1 |
port |
上游端口，如 3313–3318 |
enabled |
是否启用 |
max_concurrent |
单节点最大并发请求数（建议 1） |
models |
{ "id": "模型ID", "label": "显示名" } 列表 |
也可在 Web 系统设置 中增删改，保存后写入 nodes.json。
环境变量
| 变量 | 默认值 | 说明 |
|---|---|---|
JWT_SECRET |
（弱默认值） | 生产必改，Web 登录 JWT 签名 |
GATEWAY_PORT |
8150 |
监听端口 |
GATEWAY_CONFIG |
gateway.json |
账号配置路径 |
NODES_CONFIG |
nodes.json |
节点配置路径 |
STATS_DB |
gateway_stats.db |
统计数据库路径 |
UPSTREAM_URL |
http://127.0.0.1:10434 |
未配置 nodes 时 的单机上流回退地址 |
APP_ROOT |
空 | 反代子路径前缀，如 /wg |
节点状态（中文）
| 状态 | 含义 |
|---|---|
| 空闲 | 在线且可接受新请求 |
| 忙碌 | 已达 max_concurrent |
| 离线 | 健康检查未通过 |
| 未启用 | 节点在设置中关闭 |
| 异常 | 连接失败并带有错误信息 |
项目文件
| 文件 | 说明 |
|---|---|
main.py |
网关主程序（API + Web 单文件） |
gateway.json.example |
账号配置示例 |
nodes.json.example |
多节点配置示例 |
requirements.txt |
Python 依赖 |
ecosystem.config.cjs |
PM2 配置 |
DEPLOY.md |
生产部署文档（宝塔 + frp + PM2） |
安全提示
- 勿将
gateway.json、nodes.json、gateway_stats.db提交到公开仓库。 - 生产环境务必修改
JWT_SECRET，并为gateway.json设置严格文件权限（如chmod 600）。 - 统计与设置接口需 Web 登录；API 调用使用
sk-Key，请勿混用。
生产部署
详见 DEPLOY.md：Ubuntu、root 用户、目录 /opt/openai_node、宝塔反代 8150、frp 多机、PM2。
许可证
私有仓库，按团队内部约定使用。