GPU Programming - OpenCL vs CUDA vs ROCm

• 了解C/C++语言和并行编程概念
• 具备计算机架构和内存层次结构的基础知识
• 有使用命令行工具和代码编辑器的经验

受众

• 希望学习如何使用不同框架进行GPU编程，并比较其特性、性能和兼容性的开发者
• 希望编写可在不同平台和设备上运行的便携且可扩展代码的开发者
• 希望探索GPU编程和优化的权衡与挑战的程序员

GPU编程是一种利用GPU的并行处理能力来加速需要高性能计算的应用（如人工智能、游戏、图形和科学计算）的技术。有多种框架支持GPU编程，每种框架都有其优点和缺点。OpenCL是一个开放标准，可用于编程来自不同供应商的CPU、GPU和其他设备，而CUDA则专用于NVIDIA的GPU。ROCm是一个支持在AMD GPU上进行GPU编程的平台，同时也提供了与CUDA和OpenCL的兼容性。

本课程为讲师指导的培训（线上或线下），面向希望使用不同GPU编程框架并比较其特性、性能和兼容性的初级到中级开发者。

通过本课程，学员将能够：

• 设置包含OpenCL SDK、CUDA Toolkit、ROCm Platform、支持OpenCL、CUDA或ROCm的设备以及Visual Studio Code的开发环境。
• 使用OpenCL、CUDA和ROCm创建一个执行向量加法的基本GPU程序，并比较各框架的语法、结构和执行方式。
• 使用各自的API查询设备信息、分配和释放设备内存、在主机和设备之间复制数据、启动内核并同步线程。
• 使用各自的语言编写在设备上执行并操作数据的内核。
• 使用各自的内置函数、变量和库来执行常见任务和操作。
• 使用各自的内存空间（如全局、局部、常量和私有）来优化数据传输和内存访问。
• 使用各自的执行模型来控制定义并行性的线程、块和网格。
• 使用CodeXL、CUDA-GDB、CUDA-MEMCHECK和NVIDIA Nsight等工具调试和测试GPU程序。
• 使用合并、缓存、预取和分析等技术优化GPU程序。

课程形式

• 互动讲座和讨论。
• 大量练习和实践。
• 在实验环境中进行实际操作。

课程定制选项

• 如需为本课程定制培训，请联系我们进行安排。

简介

• GPU编程是什么？
• 为什么使用GPU编程？
• GPU编程的挑战和权衡是什么？
• GPU编程的框架有哪些？
• 为您的应用选择合适的框架

OpenCL

• OpenCL是什么？
• OpenCL的优点和缺点是什么？
• 设置OpenCL的开发环境
• 创建一个执行向量加法的基本OpenCL程序
• 使用OpenCL API查询设备信息，分配和释放设备内存，在主机和设备之间复制数据，启动内核并同步线程
• 使用OpenCL C语言编写在设备上执行并操作数据的内核
• 使用OpenCL内置函数、变量和库执行常见任务和操作
• 使用OpenCL内存空间（如全局、局部、常量和私有）优化数据传输和内存访问
• 使用OpenCL执行模型控制定义并行性的工作项、工作组和ND范围
• 使用CodeXL等工具调试和测试OpenCL程序
• 使用合并、缓存、预取和性能分析等技术优化OpenCL程序

CUDA

• CUDA是什么？
• CUDA的优点和缺点是什么？
• 设置CUDA的开发环境
• 创建一个执行向量加法的基本CUDA程序
• 使用CUDA API查询设备信息，分配和释放设备内存，在主机和设备之间复制数据，启动内核并同步线程
• 使用CUDA C/C++语言编写在设备上执行并操作数据的内核
• 使用CUDA内置函数、变量和库执行常见任务和操作
• 使用CUDA内存空间（如全局、共享、常量和局部）优化数据传输和内存访问
• 使用CUDA执行模型控制定义并行性的线程、块和网格
• 使用CUDA-GDB、CUDA-MEMCHECK和NVIDIA Nsight等工具调试和测试CUDA程序
• 使用合并、缓存、预取和性能分析等技术优化CUDA程序

ROCm

• ROCm是什么？
• ROCm的优点和缺点是什么？
• 设置ROCm的开发环境
• 创建一个执行向量加法的基本ROCm程序
• 使用ROCm API查询设备信息，分配和释放设备内存，在主机和设备之间复制数据，启动内核并同步线程
• 使用ROCm C/C++语言编写在设备上执行并操作数据的内核
• 使用ROCm内置函数、变量和库执行常见任务和操作
• 使用ROCm内存空间（如全局、局部、常量和私有）优化数据传输和内存访问
• 使用ROCm执行模型控制定义并行性的线程、块和网格
• 使用ROCm Debugger和ROCm Profiler等工具调试和测试ROCm程序
• 使用合并、缓存、预取和性能分析等技术优化ROCm程序

对比

• 比较OpenCL、CUDA和ROCm的特性、性能和兼容性
• 使用基准测试和指标评估GPU程序
• 学习GPU编程的最佳实践和技巧
• 探索GPU编程的当前和未来趋势与挑战

总结与下一步