跳到主要内容
开源昇腾 AI 学习指南

Ascend AI Infra

系统掌握昇腾 AI 算力全栈核心技术(持续更新中)

从达芬奇架构、CANN 软件栈到 Ascend C 算子开发、HCCL 分布式训练与 MindIE 推理,构建完整的昇腾 AI Infra 知识体系

🧠 昇腾AI芯片与算子开发 28 篇文章 · 5 个章节

昇腾 AI 芯片与算子开发

从昇腾硬件架构与达芬奇 AI Core 出发,深入 CANN 软件栈、AscendCL 应用开发、Ascend C 算子开发、HCCL 集合通信与分布式训练,再到 MindIE/vLLM-Ascend 推理,系统掌握国产 AI 算力全栈技术。

开始学习

章节目录

了解昇腾芯片家族与演进路线,深入达芬奇架构的 AI Core 计算单元(Cube/Vector/Scalar),掌握存储层次与多卡互联拓扑,为后续算子开发与训练推理打下硬件基础
从编程模型与 Tiling 开始,掌握 Ascend C 的矢量编程、数据搬运与内存管理、矩阵编程,并通过算子工程与性能分析工具(msprof)构建完整的昇腾算子开发能力
掌握 HCCL 集合通信库的通信原语与算法,理解多卡多机拓扑与 HCCL 配置,并通过 torch_npu(PyTorch)路径走通昇腾分布式训练实战
掌握昇腾推理的软硬件栈与模型转换(ATC/OM),学习 MindIE 推理引擎的核心机制与部署流程,掌握 vLLM-Ascend 适配与大模型推理,以及昇腾量化与 KV Cache 优化方法

学习建议

前置要求

建议具备 GPU 硬件概论、集合通信基础等 AI Infra 前置知识;有 CUDA 编程经验对照学习更佳

  • 昇腾与 CUDA 体系高度同构,建议结合 AIInfraGuide 原站的 CUDA 编程模块对照学习,迁移更快
  • 第1~2章以「看懂+会用」为主,第3章 Ascend C 是算子开发核心,建议配合官方样例动手实践
  • 昇腾生态文档以昇腾社区(hiascend.com)与 CANN 官方文档为准,版本迭代快,注意核对版本匹配
  • 内容核对状态:本模块所有延伸阅读链接与关键事实(芯片型号、CANN/PyTorch/TorchNPU 版本配套)已按昇腾社区官方页面核对(核对日 2026-10-26),具体文档正文请以官方为准
  • 无真实硬件的同学可先学习原理并浏览官方样例,有条件时通过昇腾开发者云(如 HiDevLab)申请在线 NPU 资源