Local LLM API OpenAI 兼容

Base URL https://huakuo-1.tailaa2acd.ts.net/v1 · 模型 qwen2.5:latest · 由本机 Ollama 提供算力

鉴权

所有 /v1/* 请求需带请求头：Authorization: Bearer <你的-api-key>

可用模型（5 个）

在请求体里用 model 字段指定；不传则用默认的 qwen2.5:latest。程序里也可以调 GET /v1/models 拿到同款清单（含 capabilities 字段）。

模型	参数	大小	上下文	能力	速度
`qwen2.5:latest` 默认	7.6B	4.7 GB	32,768	completion, tools	快
`qwen3.5:latest`	9.7B	6.6 GB	262,144	completion, vision, tools, thinking	中等
`qwen3:4b`	4.0B	2.5 GB	262,144	completion, tools, thinking	快
`qwen3-vl:30b` ⚠️	31.1B	19 GB	262,144	completion, vision, tools, thinking	🐢 很慢
`qwen2.5:0.5b`	494M	0.4 GB	32,768	completion, tools	⚡ 极快

qwen2.5:latest — 默认模型。速度与质量最均衡，支持函数调用。日常首选。
qwen3.5:latest — 新一代，支持看图（vision）和深度思考。会比默认模型慢，思考会消耗额外 token。
qwen3:4b — 小而快，支持深度思考与函数调用。适合高频轻量任务。
qwen3-vl:30b — ⚠️ 31B 视觉大模型，19GB 超出本机 16GB 内存，会部分跑在 CPU 上：单次响应可能要数分钟，并拖慢同时段其他请求。仅在你确实需要强视觉能力时使用。
qwen2.5:0.5b — 极小极快，几乎瞬时响应。适合简单分类、改写、连通性测试。

支持的接口

方法	路径	说明
POST	`/v1/chat/completions`	对话补全，支持 `stream: true`
POST	`/v1/completions`	传统文本补全
GET	`/v1/models`	模型列表
GET	`/health`	健康检查（无需鉴权）

curl

curl https://huakuo-1.tailaa2acd.ts.net/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen2.5:latest","messages":[{"role":"user","content":"你好，用一句话介绍你自己"}]}'

OpenAI Python SDK

pip install openai

from openai import OpenAI
client = OpenAI(base_url="https://huakuo-1.tailaa2acd.ts.net/v1", api_key="你的-api-key")

r = client.chat.completions.create(
    model="qwen2.5:latest",
    messages=[{"role": "user", "content": "你好"}],
)
print(r.choices[0].message.content)

OpenAI Node SDK

npm i openai

import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://huakuo-1.tailaa2acd.ts.net/v1", apiKey: "你的-api-key" });

const r = await client.chat.completions.create({
  model: "qwen2.5:latest",
  messages: [{ role: "user", content: "你好" }],
});
console.log(r.choices[0].message.content);

流式（SSE）

curl -N https://huakuo-1.tailaa2acd.ts.net/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen2.5:latest","stream":true,"messages":[{"role":"user","content":"数到五"}]}'

限流

每个 API Key 默认 60 请求/分钟，超限返回 429 并附 Retry-After。