跳转至

创建工作集群 - 管理员

模型推理服务需要运行在带 GPU 的工作集群上。本教程在容器管理模块中创建一个工作集群并接入 GPU 节点, 是后续部署模型服务的基础。

前提条件

  • 已准备好若干节点,节点操作系统和 CPU 架构一致,推荐使用安装器支持的操作系统。
  • 节点已开启 IPv4 转发,建议禁用防火墙。
  • 使用具有容器管理模块管理员权限的用户登录控制台。
  • GPU 节点已安装对应显卡驱动,节点检查时请确认 GPU 设备可被识别。

操作步骤

  1. 在左侧导航栏点击 容器管理 -> 集群列表,点击右上方的 创建集群。

    创建集群按钮

  2. 填写集群基本信息,点击 下一步:

    • 集群名称:小写字母、数字和连字符(-),以小写字母或数字开头结尾,最长 63 个字符,例如 tf-gpu-cluster。
    • 被纳管:选择由哪个集群管理此集群,默认为全局服务集群。
    • 运行时:推荐 containerd。
    • Kubernetes 版本:在支持范围内选择,推荐 1.29.5。
  3. 填写节点配置,将 GPU 节点的 IP、SSH 认证信息填入节点列表,点击 节点检查。 检查通过后继续;未通过时根据提示修正节点信息后重新检查。

  4. 按需调整其余参数(网络、存储等),点击 确定 开始创建集群,创建过程约 10–20 分钟。

    查看集群创建日志

  5. 集群创建完成后,在 集群列表 中查看集群状态为 运行中,并在节点列表中确认 GPU 节点就绪。

验证结果

进入集群详情,在 节点管理 中查看 GPU 节点状态为 健康,即表示集群可以承接推理负载。

下一步

继续部署模型服务。

如需接入已有 Kubernetes 集群而非新建,参阅接入集群;更多集群与节点管理功能,参阅容器管理。

评论