Deploying AI Models with CANN and Ascend AI Processors

• 具备基于Python的深度学习框架经验，如TensorFlow或PyTorch
• 理解神经网络架构和模型训练工作流程
• 对Linux命令行界面和脚本编写有基本了解

受众

• 从事模型部署的AI工程师
• 专注于硬件加速的机器学习从业者
• 构建推理解决方案的深度学习开发者

CANN（Neural Networks的计算架构）是华为的AI计算堆栈，用于在Ascend AI处理器上部署和优化AI模型。

本课程由讲师指导，提供线下或线上培训，面向中级AI开发人员和工程师，他们希望使用CANN工具包及MindSpore、TensorFlow或PyTorch等工具，将训练好的AI模型高效部署到Huawei Ascend硬件上。

通过本培训，学员将能够：

• 理解CANN架构及其在AI部署流程中的作用。
• 将来自流行框架的模型转换并适配为Ascend兼容格式。
• 使用ATC、OM模型转换和MindSpore等工具进行边缘和云端推理。
• 诊断部署问题并优化Ascend硬件的性能。

课程形式

• 互动式讲座与演示。
• 使用CANN工具和Ascend模拟器或设备进行动手实验。
• 基于真实AI模型的实践部署场景。

课程定制选项

• 如需为本课程定制培训，请联系我们安排。

CANN 和 Ascend AI 处理器简介

• CANN 是什么？在华为 AI 计算堆栈中的角色
• Ascend 处理器架构概述（310、910 等）
• 支持的 AI 框架和工具链概述

模型转换与编译

• 使用 ATC 工具进行模型转换（TensorFlow、PyTorch、ONNX）
• 创建和验证 OM 模型文件
• 处理不支持的运算符和常见转换问题

使用 MindSpore 和其他框架进行部署

• 使用 MindSpore Lite 部署模型
• 将 OM 模型与 Python API 或 C++ SDK 集成
• 使用 Ascend 模型管理器

性能优化与性能分析

• 了解 AI Core、内存和分块优化
• 使用 CANN 工具分析模型执行
• 提高推理速度和资源使用的最佳实践

错误处理与调试

• 常见部署错误及其解决方法
• 阅读日志并使用错误诊断工具
• 部署模型的单元测试和功能验证

边缘与云部署场景

• 将模型部署到 Ascend 310 以用于边缘应用
• 与基于云的 API 和微服务集成
• 计算机视觉和 NLP 的实际案例研究

总结与下一步