华为云昇腾云服务_AI开发平台ModelArts

申请试用

华为云昇腾云服务

华为云昇腾云服务提供了高性价比的AI算力，提供全链路云化工具链，支持高效迁移，全栈垂直优化，支持模型/算法高效运行，使能“百模千态"应用快速落地。

立即咨询

首页 > 产品中心 > AI平台服务 > 华为云昇腾云服务

客户痛点及共性需求

集群规模小

AIGC/大模型百卡千卡级别集群，需要提升资源利用率及细粒度资源调度。

昇腾云具备万卡规模

资源成本高

大模型/AIGC推理业务波峰波谷明显需要快速扩缩容能力，减少推理业务成本。

根据业务需求实时弹性扩容

训练中断多

大模型/自动驾驶训练:单次训练模型GPU/NPU故障率高。
大模型/AIGC推理:大规模推GPU/NPU故障率高，推理服务异常。

NPU 30天不间断

工程能力弱

使用开源大模型，大模型工程化能力弱，无法快速构建大模型训练能力。

可视化工程调优工具

模型调优难

大模型/AIGC开源新模型层出不穷，模型调优难，需要有经验的调优专家。

昇腾云调优专业服务

建设周期长

大模型/AIGC/自动驾驶算力获取难高端N卡供货周期长，很难快速组建大规模训练/推理场景。

服务小时级开通

华为人工智能自主创新，深耕根技术，市场份额国内领先 icon

开放兼容，极致性能，昇腾云服务构筑全栈AI自主可控 icon

丰富的昇腾生态

• El Gallery社区与MindSpore社区生态繁荣，汇集开发者80W+，沉淀行业资产2000+。

行业应用广泛适配昇腾芯片

• 支持5类典型三方大模型，支撑千卡级别训练。

• 完全支持兼容主力场景的算子、框架功能，接口。

• 矿山、电力等行业预训练大模型适配昇腾芯片。

• 自动驾驶，AIGC，大模型等解决方案适配昇腾芯片。

AI根技术基于昇腾深度优化

• 训练&推理加速：三层加速+昇腾算力，典型模型性价比领先友商30%。
• 统一资源调度：弹性调度、训练&推理融合调度、优先级抢占竟价实例等调度能力实现资源极致利用，综合分配率达90%，资源发放<30分钟。

• 诊断&快恢：智能运维，分钟级信息获取、2小时定界、任务恢复时长<30分钟。

AI开发平台ModelArts全栈自主可控

• ModelArts围绕昇腾推出Standard/Lite/Edge方案。

• 提供三方大模型工具链，支持大模型调优&工具链集成。

• 集成昇腾全栈的开发工具，云化免配置，开箱即用。

• 提供迁移/调试工具，自动算法迁移分析，一键迁移，精度自动比对，分布式训练调测、性能profiling、算子优化。

异腾云服务三大Offering满足用户不同场景需求 icon

ModelArts Lite

K8S原生接口，业务快速迁移；三层加速提升NPU训练性能，典型模型性能提升30%

ModelArts Standard

端到端的模型生产工具链，高效、易用的AI开发训练、推理

ModelArts Edge

边云协同推理，高效利用边缘资源

关键能力

• AI三层加速(推理加速/训练加速/数据缓存)

• 性能领先友商30%，提升华为云大模型训推性价比

• Serverless Al容器资源弹性，提供秒级NPU容器扩缩容能力，提升大模型推理性价比

关键能力

• 提供端到端生产工具链，一致性开发体验

• 提供AI工程化能力，实现AI全流程生命周期管理

• 容错能力强，故障恢复快

关键能力

• 高性价比：两级推理，降低用户使用成本

• 资源统一调度：支持本地集群以及负载均衡

• 高效运维：云上统一运维多个边缘设备

• 开放生态：支持第三方应用部署，无缝切换

三方开源大模型:支持30+三方开源大模型，加速客户大型业务上线 icon

关键能力

① 构建大模型应用开发工具链，使能大模型开箱即用
• 构建大模型应用开发工具链，完善云上数据清洗|模型微调部署|Prompt|评测|Agent，大模型应用开发效率提升1倍；

• 原生昇腾云组件Agent，构建“大模型+云组件”组合竞争力，如搜索Agent，大数据Agent等，使能云上存量用户零迁移构建大模型应；
• 支持业内主流大模型应用开发框架：兼容主流应用框架GPU生态应用“零”改造迁移。
②提供昇腾版主流开源大模型
• 支持30+业内主流大模型，精度、性能超越同代N卡大模型30%；
• 回馈社区，内源代码、镜像、性能benchmark三层开放引领客户技术选型，同源大模型昇腾开发周期由月降至天。
③提供昇腾版大模型工具链，GPU大模型100%覆盖迁移

• 提供昇腾大模型原生应用开发工具链及三方大模型工具链，支持大模型调优&工具链集成，丰富用户选择。

昇腾云支持开源大模型路标规划 - 聚焦主流模型，快速批量复制 icon

适配进度:异腾适配调优进度，支持昇腾云即开即用体验泡泡大小:市场热度

全栈自主可控的AI开发平台ModelArts市场份额国内领先 icon

针对场景算法进行深度优化，实现业界最优性能 icon

昇腾云服务ModelArts大规模分布式训练能力，加速大模型研发 icon

昇腾云服务为自动驾驶业务打造安全合规、可高效迭代的数据闭环方案 icon

昇腾云服务完善的调优工具实现AIGC模型的性能提升 icon

应用效果

SD模型推理使用异腾可替换V100，性能提升可达33%

1. 模型全满足：Stable Diffusion中的TextEncoder、VaeEncoder、unet、VaeDecoder、SafetyChecker模型全满足。
2. 模型转换：分钟级模型转换提供coverter lite模型转换工具将onnx转换成mindir(mindspore)。
3. 自动调优：自动图优化，生成调优策略、编译、在NPU芯片上验证的闭环反馈机制，不断选代出更优的调优策略。
4.性能&精度校验：提供Benchmark工具，定量分析推理耗时，指定模型输出进行精度误差分析，保证从NVIDIA到昇腾切换后性能提升&精度无损。

通用AI全面适配异腾，基于大模型提供丰富API能力 icon

MindSpore原生支持大模型开发，干亿参数模型调优时间缩短60% icon

昇腾云服务针对国产MindSpore进行深度优化，广泛兼容主流框架 icon

高效迁移:提供全流程昇腾迁移工具链，主流场景算法支持一键迁移 icon

关键竞争力

提供高效昇腾迁移工具链，迁移效率提升4倍：
• 标准化迁移路径与全栈云化昇腾工具链支撑落地：系统化的昇腾迁移路径，以及全栈迁移、开发工具链支撑迁移路径落地提供自动调优系统及故障自动分析定界工具，迁移效率提升4倍。
• 典型场景快速迁移：自动驾驶、AIGC、大模型等场景，定制化迁移版，典型场景迁移至生产环境<2周。

云化工具链底座，按天迭代体验提升：
• 基于ModelArts studio工具链底座：全链路工具通过插件化方式最终集成在ModelArts Studio中，统一入口和工作台，避免在不同工具之前跳转。

• 工具插件化集成免配置按天迭代，性能调优助手，精度校验工具，迁移分析，代码、权重迁移助手等20+开发工具云化集成，支持按天迭代，自动匹配最新的开发工具与能力，免配置。
• 内置丰富工具使用最佳实践：最佳实践模板工具使用与典型迁移场景功能挑战15分钟上手。

关键路标

2023

训练&推理迁移工具链完备提供增强迁移工具、调试调优工具，保障NLP/CV大模型典型迁移效率。

2024

AI全流程昇腾迁移工具链，提供客户侧可用、易用的训练、推理迁移调优工具，支撑客户自主昇腾迁移。

2025

昇腾代码转换工具具备，高效迁移GPU训练态。

大模型迁移工具助力客户业务快速上线 icon