什么是紫东太初大模型开放服务平台 ​

紫东太初大模型开放服务平台（以下简称“大模型服务平台”）是面向行业AI+应用开发者和算法研究人员的一站式人工智能服务平台。

平台覆盖了数据管理、数据处理、数据标注、算法开发、模型训练、模型优化、模型部署、推理加速的AI应用开发全生命周期服务，内置MindSpore、Pytorch等主流开源深度学习框架，提供大模型下游微调、自动学习、可视化拖拽建模、交互式代码开发等不同建模方式，是一款全方位国产可控、快速切入客户场景、简单易用的人工智能建模及应用的平台型产品。

平台内置多模态（3D、视频、传感信号等）预训练大模型紫东太初2.0，用户可使用少量数据样本，通过自动学习一键微调，快速构建多场景下游任务，加速AI模型应用落地。平台同时内置了丰富的基础模型和行业场景模型仓库，可为用户提供低门槛、高效率、高性价比、全栈国产化的云原生AI建模及应用能力。

产品定位 ​

大模型服务平台是基于紫东太初大模型的丰富知识沉淀和经验而推出的一站式人工智能服务平台。针对不同行业用户的需求，同时支持大模型下游微调建模、自动化、可视化、交互式建模等功能；并支持模型压缩、优化、一键部署等功能。是一款全方位国产可控、快速切入客户场景、简单易用的人工智能建模平台型产品。

(1)上层套件工具及能力平台：满足开发者各阶段需求

• 集成化、标准化、端到端的开发组件、降低开发门槛。
• 模型开发全流程、全生命周期管理。

(2)中层算法模型：开放产业级模型能力，借助预训练缩短训练流程

• 经过产业实践的基础算法
• 预训练模型微调，针对小样本快速实现算法能力迁移
• 面向特定行业的应用模型，提供模型+硬件最佳实践范例

(3)底层开发框架：下接芯片、上承应用

• 提供编程接口API、SDK赋能开发者
• 并行训练、动静转化、内存优化等实现训练优化
• 提供硬件接入能力构建模型和算力连接通道，解决模型适配部署难问题

产品能力全景 ​

大模型服务平台以大模型为基础，可结合平台训练得到相应业务场景的模型，并将模型的AI能力赋能于智能制造、智慧城市、数字政务、自动驾驶、数字文旅、智慧医疗等行业。其功能主要包括数据中心、训练中心、模型中心、推理中心几个部分，能力全景如下图所示。

• 基础设施： 支持国产化异构硬件池化资源和国产化AI计算框架，同时平台可应用于公有云、私有云、混合云等不同场景需求。
• 支撑组件： 支撑组件为平台各功能相应的支撑，为客户提供统一人员权限管理、资源监管等能力。
• AI集市： AI集市中包含数据集、算法、模型等AI资产，并支持资产共享的功能，可加速AI资产的开发和落地，并更高效的实现各环节的商业价值。
• AI工作流： AI工作流提供了数据、模型开发与训练、模型管理与模型部署相应的能力。数据中心包括单模态、多模态等多种场景下的数据管理与数据标注，并支持智能标注和团队标注；模型开发与训练支持模型的自动学习、可视化建模、交互式建模等功能；模型管理模块对平台中模型资产进行集中管理，支持管理模型、模型优化、压缩剪枝等功能；推理应用是提供模型的在线服务能力，支持模型的灰度部署、云边协同等功能。
• 场景应用： 可结合平台训练得到相应业务场景的模型，并将模型的AI能力赋能于智能制造、智慧城市、数字政务、自动驾驶、数字文旅、智慧医疗等行业。

平台技术架构 ​