assistant-2api

将 assistant-ui.com 的免费聊天端点转换为 OpenAI 兼容的 /v1/chat/completions 格式。

功能

• 流式 & 非流式聊天补全
• 5 个可用模型：GPT-5.4、GPT-5 Nano、Gemini 3 Flash、Kimi K2.5、Deepseek V3.2
• 工具/函数调用（多步，最多 10 轮）
• 图片识别（Vision）
• System Prompt 透传
• API Key 认证
• Docker 部署

快速开始

# 克隆
git clone https://github.com/XXXxx7258/assistant-2api.git
cd assistant-2api

# 配置
cp .env.example .env

# 启动（uv）
uv sync && uv run main.py

# 或 Docker
docker compose up -d

服务启动在 http://localhost:8080。

使用

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:8080/v1",
    api_key="sk-assistant-2api-free"
)

response = client.chat.completions.create(
    model="gpt-5.4",
    messages=[{"role": "user", "content": "Hello"}],
    stream=True
)
for chunk in response:
    print(chunk.choices[0].delta.content or "", end="", flush=True)

可用模型

名称	model 参数
GPT-5.4	gpt-5.4
GPT-5 Nano	gpt-5-nano
Gemini 3.0 Flash	gemini-3-flash
Kimi K2.5	kimi-k2.5
Deepseek V3.2	deepseek-v3.2

图片识别

response = client.chat.completions.create(
    model="gpt-5.4",
    messages=[{
        "role": "user",
        "content": [
            {"type": "text", "text": "这张图片是什么？"},
            {"type": "image_url", "image_url": {"url": "data:image/png;base64,..."}}
        ]
    }]
)

工具调用

response = client.chat.completions.create(
    model="gpt-5.4",
    messages=[{"role": "user", "content": "London 天气如何？"}],
    tools=[{
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "获取天气",
            "parameters": {
                "type": "object",
                "properties": {"location": {"type": "string"}},
                "required": ["location"]
            }
        }
    }]
)

API 端点

端点	说明
POST /v1/chat/completions	聊天补全（兼容 OpenAI）
GET /v1/models	模型列表
GET /health	健康检查

限制

• 上游限流：每 IP 30 秒 5 次请求
• maxOutputTokens 硬编码 15000，不可调
• temperature、top_p 等生成参数不可控
• 工具调用最多 10 轮

技术原理

assistant-ui.com 是一个开源 React 聊天 UI 组件库的文档站，部署在 Vercel 上。其 /api/chat 端点通过 Vercel AI Gateway 路由到各 LLM 提供商，本项目将其 AI SDK v6 Data Stream 格式转换为 OpenAI 兼容格式。