跳转至

什么是 AI Lab

AI Lab（曾用名智能算力）是基于云原生操作系统打造的 AI 算力平台，提供软硬一体的 AI 智算体验。 平台依托 DCE 整合异构算力、优化 GPU 性能，实现算力资源的统一调度与运营，最大化算力效用并降低算力开销； 同时提供优化的 AI 开发框架，覆盖 Notebook 开发、训练任务、数据管理与模型服务的完整链路，简化 AI 开发与部署，加速各行业 AI 应用场景落地。

AI Lab 逻辑架构

核心能力

  • 算力资源全托管

    依托 DCE 强大的基础设施能力，支持超大规模算力集群、异构 GPU 一站式托管，并提供 vGPU 等软硬一体加速方案，资源池化管理 CPU、内存与 GPU。

    ▶ 创建资源池

  • 数据编排与管理

    面向模型开发全流程的数据管理能力，支持数据集管理、多数据源接入、数据集预热与数据标注，从底层容器存储引擎优化，保证数据访问高效稳定。

    ▶ 管理数据集

  • 开发环境管理

    满足 MLOps 与 LLMOps 工程师的开发需求，提供 JupyterLab、CodeServer 等多种开发环境，支持自定义镜像，一键挂载 GPU、数据集等资源。

    ▶ 创建 Notebook

  • 训练任务管理

    训练任务全生命周期管理，支持 PyTorch、TensorFlow、PaddlePaddle、MPI 等主流框架，天然支持单机、分布式、多节点、多卡等多种任务调度。

    ▶ 创建训练任务

  • 模型推理服务

    内置 Triton、vLLM 等主流推理引擎，从训练产出的模型一键创建推理服务，加速模型从训练到上线服务的最后一步。

    ▶ 部署模型服务

  • 队列与 GPU 治理

    通过队列关联工作空间，统筹与隔离各集群的队列资源；全局汇总 GPU 资源与使用情况，支持当前和历史任务查看，方便 GPU 压力评估。

    ▶ 查看 GPU 信息

使用流程

AI Lab 的使用分为 运维准备 与 开发使用 两个阶段：管理员先创建资源池和队列，把算力资源分配给工作空间； 开发者在开发控制台完成数据准备、Notebook 开发、训练任务与模型服务的完整闭环。

flowchart TB
    subgraph OAM["运维管理 · 管理员"]
        direction LR
        A["① 创建资源池<br/>绑定集群与节点"] --> B["② 创建队列<br/>关联工作空间"]
    end
    subgraph DEV["开发控制台 · 开发者"]
        direction LR
        C["③ 准备数据集<br/>代码 / 数据 / 输出"] --> D["④ Notebook 开发<br/>JupyterLab · CodeServer"] --> E["⑤ 提交训练任务<br/>PyTorch · Tensorflow · MPI"] --> F["⑥ 部署模型服务<br/>Triton · vLLM"]
    end
    OAM -->|算力分配到工作空间| DEV
    click A href "../oam/resource/create/"
    click B href "../oam/queue/create/"
    click C href "../developer/dataset/"
    click D href "../developer/notebooks/"
    click E href "../developer/jobs/"
    click F href "../developer/inference/"
步骤 角色 说明
① 创建资源池 管理员 定义集群中可用的 CPU、内存、GPU 等计算资源，绑定工作负载与节点类型
② 创建队列 管理员 创建队列并关联工作空间，保障各集群队列资源的统筹与隔离
③ 准备数据集 开发者 创建训练代码、训练数据与输出数据集，支持多数据源接入与预热
④ Notebook 开发 开发者 在 JupyterLab / CodeServer 中开发调试，支持 SSH 访问与自定义镜像
⑤ 提交训练任务 开发者 提交单机或分布式训练任务，用 Tensorboard 进行任务分析
⑥ 部署模型服务 开发者 将训练产出的模型通过 Triton / vLLM 部署为推理服务

快速上手

1 安装组件 部署 AI Lab 所需组件 前往 → 2 首次使用 选择工作空间与集群 前往 → 3 创建资源池 规划 CPU、内存与 GPU 前往 → 4 创建队列 关联工作空间与配额 前往 → 5 查看 GPU 监控负载、功率与温度 前往 →

1 快速入门 走通数据集到训练全流程 前往 → 2 创建 Notebook 一键挂载 GPU 与数据集 前往 → 3 提交训练任务 PyTorch / Tensorflow / MPI 前往 → 4 管理数据集 多数据源接入与数据标注 前往 → 5 部署模型服务 Triton / vLLM 推理上线 前往 →

最佳实践与故障排查

  • 最佳实践

    微调 ChatGLM3、提交 DeepSpeed 训练任务、拓扑感知调度、Checkpoint 机制、NFS 数据集预热、部署 Label Studio 等实战经验。

    ▶ 查看最佳实践

  • 故障排查

    集群下拉列表找不到集群、Notebook 不受队列配额控制、队列初始化失败等常见问题的排查思路与解决方法。

    ▶ 查看故障排查

下载中心 了解 Token 工厂效能平台 了解 d.run AI 操作系统 查阅 AI Lab 用户手册 PDF

评论