MyProxy

LLM API Unified Proxy Gateway

一键部署,统一接入所有 LLM

MyProxy 是一个高性能的 LLM API 网关,支持 OpenAI、Anthropic Claude、Google Gemini 等主流协议,提供统一的管理界面和请求监控。

下载最新版 Linux amd64 · qwenportal_linux

获取版本信息中...

核心功能

🔀

多协议支持

OpenAI、Anthropic Claude、Google Gemini 统一接入,自动协议转换

📊

请求监控

实时统计 Token 用量、延迟分布、错误率,支持可视化图表

流式响应

完整 SSE 流式传输支持,首 Token 延迟极低

🔌

即插即用

兼容 OpenAI SDK,一行代码切换,无需修改现有应用

🔑

安全管理

API Key 管理、Provider 配置加密、访问控制

🖥

管理后台

Web 管理界面,Provider 管理、模型测试、日志查询

快速开始

1

下载二进制

下载 qwenportal_linux 并赋予执行权限。

wget https://my-proxy-5pb.pages.dev/download
chmod +x qwenportal_linux
2

准备配置文件

创建 config.yaml

server:
  host: "0.0.0.0"
  port: 8080
database:
  path: "data/qwenportal.db"
webui:
  enabled: true
  python: "python3"
  port: 0
logging:
  level: "info"
3

启动服务

./qwenportal_linux

首次启动会自动生成 admin key(打印在控制台),访问 http://服务器IP:8080/admin/dashboard 进入管理后台。

4

添加 Provider

通过管理后台添加 LLM Provider,或使用 API:

curl -X POST http://localhost:8080/admin/api/providers \
  -H "Content-Type: application/json" \
  -d '{
    "name": "MyProvider",
    "provider_type": "openai",
    "base_url": "https://api.example.com/v1",
    "api_key": "sk-xxx",
    "models": ["gpt-4", "gpt-3.5-turbo"],
    "is_active": true
  }'

API 概览

Endpoint方法说明
/v1/modelsGET列出所有可用模型
/v1/chat/completionsPOST聊天补全(支持 SSE 流式)
/v1/embeddingsPOST向量嵌入
/v1/messagesPOSTAnthropic Claude 兼容
/admin/api/providersGET/POSTProvider 管理
/admin/api/keysGET/POSTAPI Key 管理
/admin/api/statsGET请求统计