Spaces:
Running
Running
metadata
title: PromptLayer API Proxy
emoji: 🚀
colorFrom: blue
colorTo: green
sdk: docker
app_port: 3000
✨ 功能特点
功能 | 状态 | 描述 |
---|---|---|
🔄 OpenAI API 兼容 | ✅ | 完全兼容 OpenAI API 格式 |
🌊 流式输出 | ✅ | 支持实时流式响应 |
🖼️ 图像处理 | ✅ | 支持图像上传和识别 |
⚖️ 负载均衡 | ✅ | 多账户轮询负载均衡 |
🐳 容器化部署 | ✅ | Docker 一键部署 |
🔄 自动刷新 | ✅ | 智能 Token 自动刷新 |
🛠️ Tools 支持 | ✅ | 支持Tools参数 |
🔌 其他参数(温度,Max_Tokens) | ✅ | 支持配置其他参数,设置的参数将覆盖默认参数 |
🤖 支持的模型
🏷️ 模型名称 | 📊 最大输出长度 | 🧠 思考长度 | 📈 类型 |
---|---|---|---|
🔮 claude-3-7-sonnet-20250219 |
64,000 |
- |
Anthropic |
🧠 claude-3-7-sonnet-20250219-thinking |
64,000 |
32,000 |
Anthropic |
🔮 claude-sonnet-4-20250514 |
64,000 |
- |
Anthropic |
🧠 claude-sonnet-4-20250514-thinking |
64,000 |
32,000 |
Anthropic |
🔮 claude-opus-4-20250514 |
32,000 |
- |
Anthropic |
🧠 claude-opus-4-20250514-thinking |
32,000 |
16,000 |
Anthropic |
🤖 o4-mini |
100,000 |
- |
OpenAI |
🤖 chatgpt-4o-latest |
- |
- |
OpenAI |
🤖 gpt-4.1 |
- |
- |
OpenAI |
🤖 gpt-4.5-preview |
- |
- |
OpenAI |
🚀 快速开始
方式一:🐳 Docker Compose(推荐)
📥 Step 1: 下载配置文件
curl -o docker-compose.yml https://raw.githubusercontent.com/Rfym21/PromptlayerProxy/refs/heads/main/docker-compose.yml
⚙️ Step 2: 配置环境变量
在 docker-compose.yml
文件中设置以下参数:
services:
promptlayer-proxy:
image: rfym21/promptlayer-proxy:latest
container_name: promptlayer-proxy
restart: always
ports:
- "3000:3000"
environment:
# 🔐 PromptLayer 账号密码
- ACCOUNTS=your_account1:your_password1,your_account2:your_password2...
# 🔑 API 认证密钥
- AUTH_TOKEN=your_auth_token_here
🚀 Step 3: 启动服务
docker-compose up -d
方式二:🐳 Docker CLI
docker run -d \
--name promptlayer-proxy \
-p 3000:3000 \
-e ACCOUNTS=your_account:your_password \
-e AUTH_TOKEN=your_auth_token_here \
rfym21/promptlayer-proxy:latest
方式三:🤗 Hugging Face Spaces
创建 Space:
- 访问 Hugging Face Spaces 并创建一个新的 Space。
- 选择 "Docker" 作为 SDK。
- 选择适合的硬件(通常免费套餐已足够)。
配置 Secrets:
- 在 Space 的 "Settings" 标签页中,找到 "Secrets and variables" 部分。
- 添加以下 Secrets:
ACCOUNTS
: 你的 PromptLayer 账号和密码,格式同 Docker 部署方式,例如your_account1:your_password1,your_account2:your_password2
。AUTH_TOKEN
: 你设置的 API 认证密钥。
上传文件:
部署:
- Hugging Face Spaces 会自动根据
Dockerfile
构建并部署你的应用。 - 部署完成后,你的服务将在 Space 的 URL 上可用。
- Hugging Face Spaces 会自动根据
方式四:💻 本地开发
📦 Step 1: 安装依赖
npm install
📝 Step 2: 环境配置
创建 .env
文件:
ACCOUNTS=your_account:your_password
AUTH_TOKEN=your_auth_token_here
🏃 Step 3: 启动开发模式
npm run dev