跳转到内容

什么是 AMD Radeon Cloud

AMD Radeon Cloud 让你随时拿到一块 AMD Radeon GPU。选一个环境启动它,然后在浏览器里或通过 SSH 使用。GPU 跑的是 ROCm,你熟悉的 PyTorch、vLLM、SGLang 都不用改就能用。

AMD Radeon Cloud 有两个区域入口,是同一个平台面向不同地区的独立部署。

站点地址
中国站developer.amd.com.cn/radeon
全球站radeon-global.anruicloud.com

选你所在区域的那个,然后一直用它。账号、额度、API key、模板、实例都归属于你注册时用的那个站点,不会互通。一个站点签发的 API key 在另一个站点上认证不了,所以代码里的 base URL 必须和你注册的站点对应。

文档里的示例会用该功能最常见的那个站点地址。如果你用的是另一个站,替换成自己的地址即可。

两类不同的东西,动手之前先想清楚你要哪一种。

实例是跑在 Radeon GPU 节点上的一个容器,由你定义的模板启动。模板记录了容器镜像、要多少 GPU、多大磁盘,以及启动时该跑什么。用同一个模板再启动一次,你会得到完全一样的环境。

实例是交互式的。你可以在浏览器里通过 JupyterLab 进去,也可以从终端 SSH 过去,用法和任何一台带 GPU 的 Linux 机器没区别 —— 装包、下权重、训练、做性能分析。

实例运行期间会消耗额度,用完就销毁。如果想让文件留下来,把模板的存储设成 Persistent (PVC)

额度来自 AMD AI 开发者计划 —— 见额度

模型 API 是一个讲 OpenAI 协议的 HTTP 端点。任何能连 OpenAI 的客户端 —— curlopenai Python SDK、LangChain、Cherry Studio —— 只要改一下 base URL 和 API key 就能连上 AMD Radeon Cloud。

有两种:

共享端点免费,常驻在线。不用启动任何东西,也不花额度。去 Token Factory 拿一个 API key 就能发请求。模型由平台挑选,会不定期更换。

专属端点归你自己。你启动一个 deploy type 为 vLLM 或 SGLang 的模板,平台会把一个 URL 路由到你实例里跑的那个服务。模型由你选,实例运行期间的费用由你付。

如果你要训练、微调、在 notebook 里做探索,或者需要一个 shell,那你要的是实例

如果你在做一个调用大模型的应用,那你要的是模型 API —— 先从免费的共享端点开始,等到需要特定模型或者稳定吞吐时再换成专属端点。

两者可以组合。一个常见的做法是:启动一个实例,用 vLLM 在上面起一个模型,然后从别处运行的应用去调它。

控制台 —— 模板、实例、额度developer.amd.com.cn/radeonradeon-global.anruicloud.com
Token Factory —— API key、模型目录developer.amd.com.cn/radeon/modelapis
AMD AI 开发者计划 —— 赚取和兑换积分developer.amd.com.cn/points/redeem

跟着快速上手跑起一个实例,并发出第一个 API 请求。