跳转到内容

管理 GPU 实例

每个账号有一个“当前实例”,rcc instance 下的命令都作用于它,不需要填实例 ID。要同时操作别的账号, 用 -A 切换账号(见登录与账号)。

Terminal window
rcc status # 账号、积分和实例状态一览
rcc credits status # 积分余额
rcc catalog list # 你可以使用的环境、资源池和资源模板

按类别筛选,或查看、搜索某一项:

Terminal window
rcc catalog list --kind environment
rcc catalog list --kind resource_pool
rcc catalog list --kind resource_template
rcc catalog show ID
rcc catalog search 关键词

出现在列表里只表示你的账号有权申请这项资源,不会预留 GPU,也不保证此刻有空闲容量。

第一次创建带 SSH 的实例之前,先为当前账号登记一把 SSH 密钥:

Terminal window
rcc instance add-key

CLI 会检查你已有的密钥,没有的话可以帮你生成一把 Ed25519 密钥。只有公钥会上传。

想指定某把已有的密钥:

Terminal window
rcc instance add-key --identity-file ~/.ssh/id_ed25519

创建实例时默认开启 SSH,不需要的话加 --no-ssh。

在终端里直接运行,CLI 会一步步让你选择环境和资源:

Terminal window
rcc instance create

在脚本里或没有交互终端时,需要把选择写全,取值来自 rcc catalog list:

Terminal window
rcc instance create \
--env ENVIRONMENT \
--pod-type RESOURCE_POOL \
--resource-template RESOURCE_TEMPLATE
参数取值
--envenvironment 类条目的 ID、名称或镜像
--pod-typeresource_pool 类条目
--resource-templateresource_template 类条目

默认使用临时工作区,实例删除时一起删除。如果希望实例删除后 /workspace 还在,加 --use-pvc,见保存数据。

CLI 只能创建 Notebook 实例。要部署模型服务,请使用控制台,见部署模型服务。

CLI 默认会等到实例就绪才返回。只想提交请求、马上返回的话加 --no-wait,之后再查看进度:

Terminal window
rcc instance create \
--env ENVIRONMENT \
--pod-type RESOURCE_POOL \
--resource-template RESOURCE_TEMPLATE \
--no-wait
rcc instance status --watch
rcc instance logs

如果请求已经发出去但没收到响应,重试时带上同一个 --idempotency-key KEY,就不会重复创建。 不同的创建请求不要共用一个 key。

Terminal window
rcc instance open # 在浏览器里打开 JupyterLab
rcc instance ssh # 通过 SSH 登录

在没有浏览器的机器上,可以只打印链接或 SSH 命令:

Terminal window
rcc instance open --print
rcc instance ssh --print

JupyterLab 链接只能用一次,而且很快过期。它属于敏感信息,不要贴到日志、工单或聊天里。

Terminal window
rcc instance list # 当前实例(加 --all 列出每个已保存账号的实例)
rcc instance status # 当前状态
rcc instance status --watch # 持续刷新,默认每 3 秒一次
rcc instance logs # 启动事件和容器日志

只能查看当前登录账号自己的实例。

Terminal window
rcc instance delete --yes
rcc instance status

删除后状态可能先显示为正在关闭,这表示删除已经开始,不代表清理已经完成。请继续查看,直到显示 已经没有运行中的实例。退出登录不会删除实例。