跳转到内容

模型目录

每个模型一页,对应 https://developer.amd.com.cn/radeon/api/v1 上提供的模型。

当前有哪些模型以 GET /v1/models 为准 —— 这里有页面并不代表该模型当前在线。除以下五个各走自己的端点外,其余都在 /v1/chat/completions 上应答: MinerU2.5-Pro(文档 OCR)、 OmniVoice(语音合成),以及 Clef、d3 和 d3-flash(决策)。

model 字段要填模型 ID,一字不差。可以从 Token Factory 模型卡片上的 Model 一栏复制, 也可以读 GET /v1/models 里的 id。 卡片标题和 name 字段可能与 ID 不同,都不能代替 ID 使用:

模型 ID(调用时填这个)卡片标题/v1/models 里的 name
DeepSeek-V4-FlashDeepSeek-V4-Flash-0731DeepSeek-V4-Flash
DeepSeek-V4.1-FlashDeepSeek-V4.1-Flash-1017DeepSeek-V4.1-Flash
Gemma-4-31B-ITGemma-4-31B-ITGemma 4 31B

其余模型的 ID、卡片标题和 name 都相同。

默认思考 指请求里没要求思考时模型也会思考,见思考模式。

模型上下文图像输入默认思考
DeepSeek-V4-Flash1,048,576❌❌
DeepSeek-V4-Flash-Vision-Exp1,048,576✅❌
DeepSeek-V4.1-Flash1,048,576✅❌
Qwen3.8-Flash-Next262,144✅✅
Qwen3.8-27B262,144✅✅
GLM-5.3-Flash262,144❌✅
MiMo-V2.6-Flash1,048,576✅✅
MiniCPM5-2B131,072❌❌
MiniCPM-V-4.7-1B262,144✅❌
MiniCPM-V-4.7-35B-A3B262,144✅❌
Gemma-4-31B-IT262,144✅❌

以下五个模型不在此表,下面的参数对它们不适用:

模型端点输入返回计费单位
MinerU2.5-ProPOST /v1/ocrPDF 或图片Markdown页
OmniVoicePOST /v1/audio/speech文本,最多 4,096 个字符音频文件输入字符
ClefPOST /v1/systemone情境、可选图片、带类型的问题每个答案的概率输入 token
d3POST /v1/systemone情境、可选图片和视频、带类型的问题每个答案的概率输入 token
d3-flashPOST /v1/systemone情境、可选图片和视频、带类型的问题每个答案的概率输入 token

Token Factory 的用量以 pts 计量。pts 不是钱,也和积分无关,见用量和配额。 下表是 2026-10-19 从模型卡片上读取的单价,除注明外单位都是每百万 token 多少 pts。 单价可能调整,以模型卡片上的当前值为准。

模型输入输出缓存命中
DeepSeek-V4-Flash0.140.280.0028
DeepSeek-V4-Flash-Vision-Exp0.140.280.0028
DeepSeek-V4.1-Flash0.280.560.0056
Qwen3.8-Flash-Next0.140.280.0028
Qwen3.8-27B0.0350.070.0007
GLM-5.3-Flash0.280.560.0056
MiMo-V2.6-Flash0.140.280.0028
MiniCPM5-2B0.0350.070.0007
MiniCPM-V-4.7-1B0.0350.070.0007
MiniCPM-V-4.7-35B-A3B0.0350.070.0007
Gemma-4-31B-IT0.0350.070.0007
Clef0.035——
d30.035——
d3-flash0.035——
OmniVoice每百万字符 0.035——
MinerU2.5-Pro每页 0.001——

卡片上有三处和实际计费不一致:

  • Clef、d3、d3-flash 和 OmniVoice 的卡片上还显示了 Cache read 单价,但这几个模型不按缓存命中计费。
  • OmniVoice 卡片上的输入单价标的是每百万 token,实际按每百万输入字符计费。
  • MinerU2.5-Pro 的卡片上没有单价,实际按处理的页数计费。

各模型接受的档位不一样,按下表取值:

模型支持的取值
DeepSeek-V4-Flashnone minimal low medium high xhigh max
DeepSeek-V4-Flash-Vision-Expnone minimal low medium high xhigh max
DeepSeek-V4.1-Flashnone minimal low medium high xhigh max
Qwen3.8-Flash-Nextnone low medium xhigh
Qwen3.8-27Blow medium xhigh
GLM-5.3-Flashlow medium high
MiMo-V2.6-Flashnone minimal low medium high xhigh max

这个参数可以整个不传。MiniCPM5-2B 不返回分离的思考内容,reasoning_effort 对它不适用。

MiMo-V2.6-Flash 接受所有取值,但不会按取值调整:2026-10-19 的测试中,包括 none 在内的每个取值,返回的都是同样简短的 reasoning。它的思考无法关闭。

MiniCPM-V-4.7-1B、MiniCPM-V-4.7-35B-A3B 和 Gemma-4-31B-IT 用 chat_template_kwargs: {"enable_thinking": true} 开启思考。它们如何处理 reasoning_effort 尚未验证。

模型请求里不带思考参数时顶层 reasoning_tokens
DeepSeek-V4-Flash不思考✅
DeepSeek-V4-Flash-Vision-Exp不思考✅
DeepSeek-V4.1-Flash不思考✅
Qwen3.8-Flash-Next照样思考✅
Qwen3.8-27B照样思考❌
GLM-5.3-Flash照样思考❌
MiMo-V2.6-Flash照样思考❌
MiniCPM5-2B不思考❌
MiniCPM-V-4.7-1B不思考未验证
MiniCPM-V-4.7-35B-A3B不思考未验证
Gemma-4-31B-IT不思考未验证

Qwen3.8-27B 的用量字段是在它更早的 vLLM 部署上测得的。

思考文本从 choices[0].message.reasoning 读。MiniCPM5-2B 直接给答案,该字段为空、 reasoning_tokens 为 0,答案从 content 读。

token 数用 usage.completion_tokens_details.reasoning_tokens,有两个例外: Qwen3.8-27B 在更早的部署上完全不返回 completion_tokens_details 对象;MiMo-V2.6-Flash 即使思考了也在这里报 0。所以它们的思考 token 无法与其余输出分开统计, 但仍然计入 usage.completion_tokens,也仍然计费。

模型system 消息角色名
DeepSeek-V4-Flash位置任意,可多条system 或 developer
DeepSeek-V4-Flash-Vision-Exp位置任意,可多条system 或 developer
DeepSeek-V4.1-Flash位置任意,可多条system 或 developer
Qwen3.8-Flash-Next只放一条,且必须在首位system
Qwen3.8-27B最多一条,且必须在首位system
GLM-5.3-Flash位置任意,可多条system
MiMo-V2.6-Flash位置任意,可多条system 或 developer
MiniCPM5-2B位置任意,可多条system
MiniCPM-V-4.7-1B一条,放在首位;其他位置未验证system
MiniCPM-V-4.7-35B-A3B一条,放在首位;其他位置未验证system
Gemma-4-31B-IT一条,放在首位;其他位置未验证system

三个 DeepSeek 模型和 MiMo-V2.6-Flash 把 developer 当作 system 的别名接受。 Qwen3.8-27B 报 Unexpected message role.,Qwen3.8-Flash-Next、GLM-5.3-Flash 和 MiniCPM5-2B 报反序列化错误,并指出是第几条消息:

Failed to deserialize the JSON body into the target type: messages[0]: unknown role: developer

MiniCPM-V-4.7 两个模型和 Gemma-4-31B-IT 尚未验证 developer 角色。 较新的 OpenAI SDK 会发 developer 代替 system,如果你用的是这种,请改回。

两个 Qwen 模型的限制来自它们自带的 Jinja chat template,不是网关加的规则。 Qwen3.8-27B 违规时报 System message must be at the beginning.

所有模型都能接受的写法:一条 system 消息、放在数组下标 0、角色名写 system。

每个对话模型都支持:

  • response_format: {"type": "json_object"}
  • tools + tool_choice 的函数调用

parallel_tool_calls 参数各模型都接受,但一轮返回多个 tool_calls 属于模型自主行为, 不要在设计上依赖它。

八个对话模型收图,content 数组里放 image_url 内容块即可:

模型图片用量报在哪里
DeepSeek-V4-Flash-Vision-Expusage.prompt_tokens_details.image_tokens,示例值 115
DeepSeek-V4.1-Flashusage.prompt_tokens_details.image_tokens,示例值 202
Qwen3.8-Flash-Nextusage.prompt_tokens_details.image_tokens,示例值 144
Qwen3.8-27Busage.prompt_tokens_details.multimodal_tokens.image,示例值 72,测于更早的部署
MiMo-V2.6-Flashusage.prompt_tokens_details.image_tokens
MiniCPM-V-4.7-1Busage.prompt_tokens_details.image_tokens
MiniCPM-V-4.7-35B-A3Busage.prompt_tokens_details.image_tokens
Gemma-4-31B-IT未验证
{
"model": "DeepSeek-V4-Flash-Vision-Exp",
"messages": [{
"role": "user",
"content": [
{ "type": "image_url", "image_url": { "url": "data:image/png;base64,iVBORw0KGgo..." } },
{ "type": "text", "text": "这张图里写了什么?" }
]
}]
}

要发图请先确认目标模型在上表里——其余对话模型是纯文本的。要从 PDF 或扫描件里取文字,用 MinerU2.5-Pro:返回 Markdown,按页计费。

所有对话模型都接受的写法:

  • 一条 system 消息,放在下标 0,角色名写 system
  • reasoning_effort 用 low 或 medium,或者整个不传(别用 high,Qwen3.8-27B 会 400; 也别用 xhigh,GLM-5.3-Flash 会 422)
  • 思考文本从 choices[0].message.reasoning 读
  • 思考 token 数从 usage.completion_tokens_details.reasoning_tokens 读(Qwen3.8-27B 在更早的部署上不给,MiMo-V2.6-Flash 报 0)
  • 要 JSON 用 response_format: {"type": "json_object"}
  • content 只放文本;要发图先确认模型支持,并注意 Qwen3.8-27B 的计量字段可能不同
  • max_tokens 按目标模型的窗口算,从 131,072 到 1,048,576 差了 8 倍
接受的参数temperature max_tokens top_p stream response_format tools tool_choice parallel_tool_calls reasoning_effort
原样转发chat_template_kwargs
会被静默丢弃stop seed logit_bias logprobs top_logprobs top_k min_p repetition_penalty
开启思考的写法reasoning_effort(或等价的 reasoning.effort);MiniCPM-V-4.7 两个模型和 Gemma-4-31B-IT 用 chat_template_kwargs.enable_thinking
上报的分词器GPT
稳定性experimental

其他参数会在请求到达推理后端之前被剔除——不报错,也不生效。确实需要这些参数, 请自己部署模型服务,它会把请求体原样透传给 vLLM 或 SGLang。