大模型服务平台 Release Notes¶
本页列出大模型服务平台的 Release Notes,便于您了解各版本的演进路径和特性变化。
2025-08-07¶
v0.8.0¶
运维管理
- 新增 模型列表展示
- 新增 支持从 url 地址信息中批量导入模型
- 新增 支持创建模型
- 新增 MaaS模型列表展示
- 新增 支持添加MaaS模型
- 新增 支持添加多个上游Endpoint信息
- 新增 支持针对apikey级别的限流
- 新增 支持对workspace级别的限流
- 新增 支持添加多组限流规则
- 新增 支持负载均衡-轮询
- 新增 模型部署管理列表展示
- 新增 支持添加多组模型的配置信息
- 新增 支持vLLM部署模型
2025-07-04¶
v0.7.0¶
普通用户视图
- 新增 支持卡片视图展示模型列表,直观呈现模型信息
- 新增 支持展示模型的详细介绍及API调用示例
- 新增 支持文本模型的模型模型的快速部署、体验
- 新增 支持对模型根据多种维度分类搜索
- 新增 支持图像理解模型的体验
- 新增 已部署的模型服务列表展示
- 新增 提供多种类模型列表,支持快速选择待部署的模型
- 新增 支持模型服务实例的扩缩容
- 新增 集群选择:支持按集群部署
- 新增 实例数配置:允许横向扩展实例数量
- 新增 支持已部署的模型服务在线体验
- 新增 支持对已部署的模型提供多种方式、多种语言的API调用示例:curl、python、node.js
- 新增 提供一键体验功能,用于快速验证服务可用性
- 新增 支持文本生成模型配置多种参数:system prompt(设置系统提示信息)、temperature(控制生成结果的随机性)、top_p(调整生成概率分布)
- 新增 支持同种类型的多个模型间对比
- 新增 API Key 列表展示
- 新增 一键复制完整 Key。支持删除指定 Key(不可恢复)
- 新增 支持生成新 API Key,并设置自定义名称
- 新增 支持模型的深度思考功能
- 新增 支持文本模型的消息复制和重新生成
- 新增 支持文生图模型的体验
- 新增 支持文生图模型的调用
- 新增 支持基于该账号下所有API-KEY调用该模型的总和进行计算限流
- 新增 图生文模型支持同时生成多张图片
- 新增 图生文模型支持自定义正反提示词,支持自定义图片尺寸
- 新增 支持 100% 兼容标准的 OpenAI SDK 调用