跳转到内容

什么是 AMD Radeon Cloud

AMD Radeon Cloud 按需提供 AMD Radeon GPU。选好镜像和规格后启动,就能在浏览器里或通过 SSH 使用。GPU 运行 ROCm,PyTorch、vLLM、SGLang 代码无需修改就能运行。

AMD Radeon Cloud 有两个站点,各自独立部署,分别服务不同地区。两个站点都提供 GPU 实例;Token Factory 只在中国站提供。

站点地址账号
中国站developer.amd.com.cn/radeonAMD AI 开发者计划
全球站radeon-global.anruicloud.com邮箱登录

请使用所在地区的站点。账号、积分、API Key 和实例都只属于创建它们的站点。一个站点的 API Key 在另一个站点无法使用,所以代码里的 base URL 必须和你的站点一致。

文档示例使用中国站的地址。用全球站时,换成全球站的地址即可。

实例 是一个带一块或多块 Radeon GPU 的容器。启动时选择镜像和规格:镜像决定预装的软件,规格决定 GPU 数量、CPU 核数和内存。见选择镜像。

实例可以在 JupyterLab 里打开,也可以通过 SSH 连接,用法和一台带 GPU 的 Linux 机器一样:装软件包、下载权重、训练、做性能分析。

实例运行期间每小时消耗积分,用完请及时销毁。如果希望销毁后文件还在,启动时选择 持久化 /workspace,见保存数据。在中国站,积分用 AMD AI 开发者计划 的开发者积分兑换。

实例还可以用 vLLM 部署你选的模型,对外提供兼容 OpenAI 的接口,见部署模型服务。

实例可以在网页控制台管理,也可以在终端里用 Radeon Cloud CLI(rcc)管理,方便写进脚本。

Token Factory 在 Radeon GPU 上托管了一批模型,通过兼容 OpenAI 的接口提供服务,仅限中国站。它免费、随时可用:拿到 API Key 就能发请求。curl、openai Python SDK、LangChain、Cherry Studio 等 OpenAI 客户端,只要换掉 base URL 和 API Key 就能调用。模型由平台选定,会不定期调整。见 Token Factory。

训练、微调、用 notebook,或者需要一个 shell,选 实例。

开发调用大模型的应用,先用 Token Factory。需要它没有的模型,或者需要不与他人共享的吞吐时,再在实例上部署模型服务。

用途入口
控制台:实例、积分、设置developer.amd.com.cn/radeon 或 radeon-global.anruicloud.com
Token Factory:API Key、模型developer.amd.com.cn/radeon/tokenfactory
Radeon Cloud CLIRadeon Cloud CLI
AMD AI 开发者计划:开发者积分和优惠码(中国站)AMD AI 开发者计划
联系支持member-service@mail.developer.amd.com.cn

按照快速上手发出第一个 API 请求,并启动一个实例。