跳转到内容

列出模型

返回 Token Factory 的模型列表,以及每个条目的价格和能力元信息。实例上的模型服务只提供你启动时指定的那个模型,这个路径由 vLLM 自己响应,见模型服务接口。

GET /v1/models API Key 或会话

也可以通过 /api/v1/models 访问。

无参数。

Terminal window
curl https://developer.amd.com.cn/radeon/api/v1/models \
-H "Authorization: Bearer $RADEON_API_KEY"

外层就是一个裸的 { "data": [...] },没有 object 字段。条目带的元信息比 OpenAI 的 model 对象丰富,但没有 owned_by,也没有 created。

{
"data": [
{
"id": "DeepSeek-V4-Flash",
"name": "DeepSeek-V4-Flash",
"aliases": [],
"description": "Radeon DeepSeek V4 Flash served by the AMD GPU Cloud",
"family": "deepseek",
"architecture": {
"input_modalities": ["text"],
"output_modalities": ["text"],
"tokenizer": "GPT"
},
"top_provider": { "is_moderated": true },
"providers": [
{
"providerId": "radeon-deepseek",
"externalId": "DeepSeek-V4-Flash",
"pricing": {
"prompt": "0.00000014",
"completion": "0.00000028",
"input_cache_read": "0.0000000028"
},
"streaming": true,
"vision": false,
"tools": true,
"reasoning": true,
"stability": "stable"
}
],
"pricing": {
"prompt": "0.00000014",
"completion": "0.00000028",
"input_cache_read": "0.0000000028"
},
"context_length": 1048576,
"supported_parameters": [
"temperature", "max_tokens", "top_p",
"frequency_penalty", "presence_penalty",
"stream", "response_format", "tools"
],
"json_output": true,
"structured_outputs": true,
"free": true,
"stability": "stable"
}
]
}

把这个列表里的任意 id 用作聊天补全的 model 字段。

字段说明
id作为 model 发送的名字。
name、description、family、aliases展示用的元信息。
architecture输入输出模态,以及 tokenizer 家族。
providers提供这个模型的后端,每个都带自己的价格和能力标志。
pricing每 token 的价格,字符串形式的小数:prompt、completion,支持前缀缓存的模型还有 input_cache_read。按输入字符计费的模型(例如 OmniVoice)把每个字符的价格放在 prompt 里。按 Token Factory 的 pts 计入每日额度,不会产生费用,见用量和配额。
context_length上下文窗口上限,单位 token。
supported_parameters这个模型接受的请求参数。完整 schema 见聊天补全。
json_output、structured_outputs是否认 response_format。
free调用是否按零成本计入你的每日配额。
stabilitystable、beta、unstable 或 experimental。

模型目录是会变的。模型会陆续上架和下架,所以运行时去解析列表,别把名字写死,也要处理昨天还能用的模型今天没了的情况。

模型列表对所有 API Key 都一样,不按账号区分。

这个端点不占用你的并发配额,但每分钟限流仍然适用。调它很便宜,不过还是把结果缓存几分钟,别每次补全前都调一遍。

Token Factory 里每个模型卡片上渲染的就是这同一份元信息。