一键部署,统一接入所有 LLM
MyProxy 是一个高性能的 LLM API 网关,支持 OpenAI、Anthropic Claude、Google Gemini 等主流协议,提供统一的管理界面和请求监控。
下载最新版 Linux amd64 · qwenportal_linux获取版本信息中...
核心功能
多协议支持
OpenAI、Anthropic Claude、Google Gemini 统一接入,自动协议转换
请求监控
实时统计 Token 用量、延迟分布、错误率,支持可视化图表
流式响应
完整 SSE 流式传输支持,首 Token 延迟极低
即插即用
兼容 OpenAI SDK,一行代码切换,无需修改现有应用
安全管理
API Key 管理、Provider 配置加密、访问控制
管理后台
Web 管理界面,Provider 管理、模型测试、日志查询
快速开始
1
下载二进制
下载 qwenportal_linux 并赋予执行权限。
wget https://my-proxy-5pb.pages.dev/download
chmod +x qwenportal_linux
2
准备配置文件
创建 config.yaml:
server:
host: "0.0.0.0"
port: 8080
database:
path: "data/qwenportal.db"
webui:
enabled: true
python: "python3"
port: 0
logging:
level: "info"
3
启动服务
./qwenportal_linux
首次启动会自动生成 admin key(打印在控制台),访问 http://服务器IP:8080/admin/dashboard 进入管理后台。
4
添加 Provider
通过管理后台添加 LLM Provider,或使用 API:
curl -X POST http://localhost:8080/admin/api/providers \
-H "Content-Type: application/json" \
-d '{
"name": "MyProvider",
"provider_type": "openai",
"base_url": "https://api.example.com/v1",
"api_key": "sk-xxx",
"models": ["gpt-4", "gpt-3.5-turbo"],
"is_active": true
}'
API 概览
| Endpoint | 方法 | 说明 |
|---|---|---|
/v1/models | GET | 列出所有可用模型 |
/v1/chat/completions | POST | 聊天补全(支持 SSE 流式) |
/v1/embeddings | POST | 向量嵌入 |
/v1/messages | POST | Anthropic Claude 兼容 |
/admin/api/providers | GET/POST | Provider 管理 |
/admin/api/keys | GET/POST | API Key 管理 |
/admin/api/stats | GET | 请求统计 |