Deploying AI Models with CANN and Ascend AI Processors

• 具備Python基礎的深度學習框架經驗，例如TensorFlow或PyTorch
• 理解神經網絡架構和模型訓練工作流程
• 對Linux CLI和腳本有基本熟悉度

目標受眾

• 從事模型部署的AI工程師
• 專注於硬件加速的機器學習從業者
• 開發推理解決方案的深度學習開發者

CANN（面向Neural Networks的计算架构）是华为的AI计算堆栈，用于在昇腾AI处理器上部署和优化AI模型。

本课程为讲师指导的培训（线上或线下），面向中级AI开发者和工程师，旨在帮助他们使用CANN工具包及MindSpore、TensorFlow或PyTorch等工具，将训练好的AI模型高效部署到Huawei Ascend硬件上。

通过本课程，学员将能够：

• 了解CANN架构及其在AI部署流程中的作用。
• 将模型从流行框架转换并适配为昇腾兼容格式。
• 使用ATC、OM模型转换和MindSpore等工具进行边缘和云端推理。
• 诊断部署问题并优化昇腾硬件的性能。

课程形式

• 互动式讲座与演示。
• 使用CANN工具和昇腾模拟器或设备进行实操练习。
• 基于真实AI模型的实用部署场景。

课程定制选项

• 如需为本课程定制培训，请联系我们安排。

CANN 與 Ascend AI 處理器簡介

• CANN 是什麼？在華為 AI 計算堆棧中的角色
• Ascend 處理器架構概述（310、910 等）
• 支援的 AI 框架與工具鏈概述

模型轉換與編譯

• 使用 ATC 工具進行模型轉換（TensorFlow、PyTorch、ONNX）
• 創建與驗證 OM 模型文件
• 處理不支援的操作符與常見轉換問題

使用 MindSpore 與其他框架部署

• 使用 MindSpore Lite 部署模型
• 將 OM 模型與 Python API 或 C++ SDK 整合
• 使用 Ascend Model Manager

性能優化與分析

• 理解 AI Core、記憶體與分塊優化
• 使用 CANN 工具進行模型執行分析
• 提升推理速度與資源使用的最佳實踐

錯誤處理與調試

• 常見部署錯誤及其解決方案
• 閱讀日誌與使用錯誤診斷工具
• 部署模型的單元測試與功能驗證

邊緣與雲端部署場景

• 將模型部署到 Ascend 310 以用於邊緣應用
• 與基於雲端的 API 與微服務整合
• 電腦視覺與 NLP 的實際案例研究

總結與下一步