昇腾AI基础软硬件全面升级，以更开放易用的平台使能百模千态

2023-09-25 16:14

[中国，上海，2023年9月22日] 华为全联接大会2023期间，华为计算产品线总裁张熙伟发表了“算力为基，共筑智能新生态”主题演讲。他表示，华为深耕算力底座，聚焦鲲鹏、昇腾基础软硬件创新，携手伙伴开发者，打造更放易用的平台，共筑更高效协同的生态，使能百模千态，共赢智能未来。

华为计算产品线总裁张熙伟发表主题演讲

昇腾全面、深度开放，选择更灵活，使能开发者构筑差异化竞争力

昇腾面向算子、框架、加速库和大模型全面开放，广泛支持、兼容业界生态，为大模型创新提供更多灵活选择。提供丰富的融合算子，如主流的FlashAttention、FFN等，可在昇腾上实现性能倍级提升；全面支持PyTorch、飞桨、昇思等业界框架，同时PyTorch社区今年10月将发布2.1版本，原生支持昇腾；除了兼容业界主流的DeepSpeed、Megatron外，昇腾自主构建了大模型加速库AscendSpeed，提供丰富的大模型训练并行能力。同时，HuggingFace社区最新的Transformers、Accelerate等代码仓已原生支持昇腾，开发者直接下载，安装即用。目前已有50+主流的基础大模型基于昇腾训练迭代，9家伙伴发布了大模型训推一体机，为行业提供更加丰富的选择。

昇腾以开放移动的平台使能百模千态，高效协同的生态赋能千行万业

为支撑开发者孵化出更高性能的自定义算子、加速库，昇腾进一步开放平台能力，将于年底新增开放底层运行时，开发者可直接使用NPU上的核资源、控制流、任务调度等接口，原生构建差异化竞争力。在编程上，今年5月发布的Ascend C编程语言，简化开发逻辑，匹配开发习惯。通过持续迭代，当前支持混合编程与编译，增加归一化、三角函数等API，300余行大算子的开发周期从2人月降到2人周，大幅提升大模型创新效率。

ModelZoo 2.0发布上线

为更好的发育大模型生态，昇腾社区全新升级ModelZoo 2.0，在已提供数百个预训练模型的基础上，年底前将持续上线40多个昇腾亲和的预训练大模型，同时支持各类大模型在线的功能体验 与性能对比，开放全流程的大模型开发工具与套件，支撑开发者快速实现大模型的二次开发。

ModelZoo2.0正式上线昇腾社区

超级流水线全流程使能大模型创新落地

大模型开发是一个复杂的系统工程，昇腾大模型超级流水线，以友好的大模型开发环境和统一的全流程工具链，使能大模型易开发、易迁移、易部署。昇腾大模型开发套件，轻量代码使能大模型极简开发；MindStudio全流程工具链使能大模型敏捷迁移，周级实现精度调试和性能调优；昇腾推理引擎统一推理业务全流程入口，支持多种推理方式使能应用快速部署。

鼓励昇腾原生创新，加速伙伴商业共赢

华为持续围绕科研创新使能和大模型促进两大计划，鼓励开发者基于昇腾进行根技术原生创新，赋能伙伴打造更具竞争力的大模型场景解决方案，共同打造更紧密协同的人工智能新生态。

以AI赋能openEuler更智能，以openEuler使能AI更高效

大模型让欧拉更智能。欧拉作为首个广泛支持AI的开源操作系统，正在颠覆传统的命令行交互方式。华为使用ChatGLM基础模型，基于大量欧拉操作系统的代码和数据，训练出EulerCopilot，初步带来代码辅助生成、问题智能分析、系统辅助运维等功能。以前需要多领域专家协同解决的问题，未来都可以交给EulerCopilot

欧拉使能AI更高效。欧拉通过异构资源统一管理与调度，实现CPU和XPU的深度融合，以更全局、更均衡和更精细化的视角统筹内存和算力，充分挖掘空闲资源，提升有效利用率，进而提升AI训练和推理性能。

鲲鹏软硬件平台进行创新升级

华为持续升级鲲鹏软硬件平台。天池架构支持伙伴面向千行万业，快速推出差异化机型。基础软件方面，openEuler全场景协同能力持续增强，进一步提供负载动态感知等关键能力，做到开箱即优。同时，升级鲲鹏BoostKit和DevKit 两大套件，八大主流场景性能持续提升，通过四大场景化SDK助力鲲鹏高效原生开发，更好的赋能伙伴，服务用户。

华为全联接大会2023（HUAWEI CONNECT 2023）以“加速行业智能化”为主题，邀请思想领袖、商业精英、技术专家、合作伙伴、开发者等业界同仁，从商业、产业、生态等方面共同探讨如何加速行业智能化。更多信息，请参阅华为全联接大会官网：https://www.huawei.com/cn/events/huaweiconnect