大模型服务平台 Release Notes¶
本页列出大模型服务平台的 Release Notes,便于您了解各版本的演进路径和特性变化。
2026-08-31¶
v0.18.3¶
普通用户视图
- 新增 支持管理员将创建的 API Key 分配给用户,用户可以使用自己被分配的 API Key
- 新增 用量统计中可以查看并展示删除的 apikey 用量
- 新增 模型部署列表新增查看工作负载操作,用户可以快速跳转到关联的工作负载详情
- 新增 模型广场详情支持展示多模态模型 API 调用示例
运维管理
- 新增 智能路由,每个集群可配置一条
model=auto路由。支持基础规则分流(请求长度、自定义规则)和高级语义选模(领域分类、语义嵌入、复杂度、上下文长度),未命中时走兜底模型 - 新增 MaaS 模型支持基于 token 进行限流
- 新增 内容安全检测策略管理,调用安全能力对请求内容做风险与合规检测。 通用安全检测由平台自有安全模型完成,可配置风险类型与风险判定阈值,模盾安全检测是对绿盟 AI 安全围栏服务的集成,通过绿盟开放接口完成内容检测
Note
hydra 从 v0.18.3 开始,MaaS 启停状态、集群和 Workspace 可见范围统一以 Knoway ModelRoute CR 为准。 从 v0.16.0 或 v0.17.1 升级时,请先升级所有工作集群的 hydra-agent,再升级全局 Hydra,详情参见升级注意事项。
2026-07-31¶
v0.17.1¶
普通用户视图
- 新增 模型体验支持图生图、语音模型体验
- 新增 微调任务/评估任务支持环境变量配置
- 优化 模型广场界面展示及筛选、排序等能力,提升用户使用体验
- 优化 模型部署分布式推理场景,支持分别配置 Leader 节点和 Worker 节点的启动命令和环境变量
Note
hydra 从 v0.17.1 开始将模型元数据与 MaaS 数据解耦。升级到 v0.17.1 前需完成 maas_model 数据表迁移;若直升 v0.18.3,请勿执行该 SQL。详情参见升级注意事项。
2026-06-30¶
v0.16.0¶
普通用户视图
- 新增 模型部署支持容器健康检查,包含容器存活检查、就绪检查、启动检查
- 新增 模型部署支持开启指标采集,用于监控模型部署的运行状态
- 新增 模型部署支持挂载外部配置文件,以便用户自定义模型部署的运行逻辑
2026-05-31¶
v0.15.0¶
普通用户视图
- 新增 大模型微调功能,支持数据集管理、微调任务管理、模型评估和导出
- 新增 模型部署支持容错检查,在模型正式部署前自动检查关键硬件及软件环境,提前发现问题
- 新增 模型部署/MaaS 模型支持 token 权重配置,以保证 token 配额的公平分配
- 新增 API Key 支持启用/禁用,用户可以根据需要选择是否启用 API Key
- 新增 大语言模型支持缓存命中 tokens 计量
运维管理
- 新增 workspace token 配额设置,用户可以根据需要为每个 workspace 设置 token 限额
- 新增 网关安全策略管理和审计日志,用户可以根据需要配置网关的安全策略,如 敏感词检测、模型黑白名单等
- 优化 模型广场管理支持删除模型
Note
hydra 从 0.15.0 版本开始,在 knoway 网关中集成了 higress,以提供 AI 安全、token 限额等能力,详情参见升级注意事项。
2026-04-30¶
v0.14.0¶
普通用户视图
- 新增 API Key 支持有效期设置
- 新增 API Key 支持 token 配额设置
- 优化 API Key 管理权限:每个用户创建和管理自己的 API Key
- 优化 模型体验仅支持选择自己创建的 API Key 进行鉴权
- 优化 模型管理删除逻辑,新增关联模型服务校验
- 优化 模型部署模板自定义 GPU 卡类型和自定义运行时逻辑,支持更灵活的模型部署
2026-03-31¶
v0.13.1¶
普通用户视图
- 新增 支持用户私有模型管理,同时支持配置部署模版和管理模型权重文件
- 新增 支持用户自定义部署,在部署时可修改资源配置和运行配置
- 新增 推理服务支持优先级、拓扑感知等队列调度
- 新增 推理服务支持用户自定义运行时框架
- 新增 支持创建并管理文件存储,用于模型文件、数据集等持久化存储
运维管理
- 新增 文件存储模块,用于模型广场模型权重文件的上传和持久化存储
- 新增 模型广场模型支持界面化管理模型权重文件
- 优化 部署配置管理合并到模型广场管理,支持创建多个配置模版
2025-11-30¶
v0.12.1¶
运维管理
- 新增 模型部署管理支持自定义推理框架
2025-10-31¶
v0.11.0¶
运维管理
- 新增 支持模型广场管理模型图标本地上传
2025-09-30¶
v0.10.0¶
运维管理
- 新增 支持 SGLang 部署模型
- 新增 支持查看审计日志
2025-08-07¶
v0.8.0¶
运维管理
- 新增 模型列表展示
- 新增 支持从 URL 地址信息中批量导入模型
- 新增 支持创建模型
- 新增 MaaS 模型列表展示
- 新增 支持添加 MaaS 模型
- 新增 支持添加多个上游 Endpoint 信息
- 新增 支持针对 apikey 级别的限流
- 新增 支持对 Workspace 级别的限流
- 新增 支持添加多组限流规则
- 新增 支持负载均衡-轮询
- 新增 模型部署管理列表展示
- 新增 支持添加多组模型的配置信息
- 新增 支持 vLLM 部署模型
2025-07-04¶
v0.7.0¶
普通用户视图
- 新增 支持卡片视图展示模型列表,直观呈现模型信息
- 新增 支持展示模型的详细介绍及 API 调用示例
- 新增 支持文本模型的快速部署、体验
- 新增 支持对模型根据多种维度分类搜索
- 新增 支持图像理解模型的体验
- 新增 已部署的模型服务列表展示
- 新增 提供多种类模型列表,支持快速选择待部署的模型
- 新增 支持模型服务实例的扩缩容
- 新增 集群选择:支持按集群部署
- 新增 实例数配置:允许横向扩展实例数量
- 新增 支持已部署的模型服务在线体验
- 新增 支持对已部署的模型提供多种方式、多种语言的 API 调用示例:curl、python、node.js
- 新增 提供一键体验功能,用于快速验证服务可用性
- 新增 支持文本生成模型配置多种参数:system prompt(设置系统提示信息)、temperature(控制生成结果的随机性)、top_p(调整生成概率分布)
- 新增 支持同种类型的多个模型间对比
- 新增 API Key 列表展示
- 新增 一键复制完整 Key。支持删除指定 Key(不可恢复)
- 新增 支持生成新 API Key,并设置自定义名称
- 新增 支持模型的深度思考功能
- 新增 支持文本模型的消息复制和重新生成
- 新增 支持文生图模型的体验
- 新增 支持文生图模型的调用
- 新增 支持基于该账号下所有 API-KEY 调用该模型的总和进行计算限流
- 新增 图生文模型支持同时生成多张图片
- 新增 图生文模型支持自定义正反提示词,支持自定义图片尺寸
- 新增 支持 100% 兼容标准的 OpenAI SDK 调用