创建工作集群 - 管理员¶
模型推理服务需要运行在带 GPU 的工作集群上。本教程在容器管理模块中创建一个工作集群并接入 GPU 节点, 是后续部署模型服务的基础。
前提条件¶
- 已准备好若干节点,节点操作系统和 CPU 架构一致,推荐使用安装器支持的操作系统。
- 节点已开启 IPv4 转发,建议禁用防火墙。
- 使用具有容器管理模块管理员权限的用户登录控制台。
- GPU 节点已安装对应显卡驱动,节点检查时请确认 GPU 设备可被识别。
操作步骤¶
-
在左侧导航栏点击 容器管理 -> 集群列表,点击右上方的 创建集群。

-
填写集群基本信息,点击 下一步:
- 集群名称:小写字母、数字和连字符(
-),以小写字母或数字开头结尾,最长 63 个字符,例如tf-gpu-cluster。 - 被纳管:选择由哪个集群管理此集群,默认为全局服务集群。
- 运行时:推荐
containerd。 - Kubernetes 版本:在支持范围内选择,推荐 1.29.5。
- 集群名称:小写字母、数字和连字符(
-
填写节点配置,将 GPU 节点的 IP、SSH 认证信息填入节点列表,点击 节点检查。 检查通过后继续;未通过时根据提示修正节点信息后重新检查。
-
按需调整其余参数(网络、存储等),点击 确定 开始创建集群,创建过程约 10–20 分钟。

-
集群创建完成后,在 集群列表 中查看集群状态为 运行中,并在节点列表中确认 GPU 节点就绪。
验证结果¶
进入集群详情,在 节点管理 中查看 GPU 节点状态为 健康,即表示集群可以承接推理负载。
下一步¶
继续部署模型服务。
如需接入已有 Kubernetes 集群而非新建,参阅接入集群;更多集群与节点管理功能,参阅容器管理。