什么是 AMD Radeon Cloud
AMD Radeon Cloud 按需提供 AMD Radeon GPU。选好镜像和规格后启动,就能在浏览器里或通过 SSH 使用。GPU 运行 ROCm,PyTorch、vLLM、SGLang 代码无需修改就能运行。
中国站和全球站
Section titled “中国站和全球站”AMD Radeon Cloud 有两个站点,各自独立部署,分别服务不同地区。两个站点都提供 GPU 实例;Token Factory 只在中国站提供。
| 站点 | 地址 | 账号 |
|---|---|---|
| 中国站 | developer.amd.com.cn/radeon | AMD AI 开发者计划 |
| 全球站 | radeon-global.anruicloud.com | 邮箱登录 |
请使用所在地区的站点。账号、积分、API Key 和实例都只属于创建它们的站点。一个站点的 API Key 在另一个站点无法使用,所以代码里的 base URL 必须和你的站点一致。
文档示例使用中国站的地址。用全球站时,换成全球站的地址即可。
GPU 实例
Section titled “GPU 实例”实例 是一个带一块或多块 Radeon GPU 的容器。启动时选择镜像和规格:镜像决定预装的软件,规格决定 GPU 数量、CPU 核数和内存。见选择镜像。
实例可以在 JupyterLab 里打开,也可以通过 SSH 连接,用法和一台带 GPU 的 Linux 机器一样:装软件包、下载权重、训练、做性能分析。
实例运行期间每小时消耗积分,用完请及时销毁。如果希望销毁后文件还在,启动时选择 持久化 /workspace,见保存数据。在中国站,积分用 AMD AI 开发者计划 的开发者积分兑换。
实例还可以用 vLLM 部署你选的模型,对外提供兼容 OpenAI 的接口,见部署模型服务。
实例可以在网页控制台管理,也可以在终端里用 Radeon Cloud CLI(rcc)管理,方便写进脚本。
Token Factory
Section titled “Token Factory”Token Factory 在 Radeon GPU 上托管了一批模型,通过兼容 OpenAI 的接口提供服务,仅限中国站。它免费、随时可用:拿到 API Key 就能发请求。curl、openai Python SDK、LangChain、Cherry Studio 等 OpenAI 客户端,只要换掉 base URL 和 API Key 就能调用。模型由平台选定,会不定期调整。见 Token Factory。
训练、微调、用 notebook,或者需要一个 shell,选 实例。
开发调用大模型的应用,先用 Token Factory。需要它没有的模型,或者需要不与他人共享的吞吐时,再在实例上部署模型服务。
| 用途 | 入口 |
|---|---|
| 控制台:实例、积分、设置 | developer.amd.com.cn/radeon 或 radeon-global.anruicloud.com |
| Token Factory:API Key、模型 | developer.amd.com.cn/radeon/tokenfactory |
| Radeon Cloud CLI | Radeon Cloud CLI |
| AMD AI 开发者计划:开发者积分和优惠码(中国站) | AMD AI 开发者计划 |
| 联系支持 | member-service@mail.developer.amd.com.cn |
按照快速上手发出第一个 API 请求,并启动一个实例。