隐私保护机器学习

Prerequisites:

• 了解机器学习原理。
• 具备Python和ML库（如PyTorch、TensorFlow）的使用经验。
• 熟悉数据隐私或网络安全概念者优先。

受众

• AI研究人员。
• 数据保护与隐私合规团队。
• 在受监管行业工作的安全工程师。

Overview:

隐私保护机器学习是一个专注于在分散或受限环境中保护敏感数据的同时，仍能实现先进AI能力的领域。

本课程由讲师主导，提供线上或线下培训，面向希望在实际机器学习管道中实施和评估联邦学习、安全多方计算、同态加密和差分隐私等技术的专业人士。

通过本培训，学员将能够：

• 理解并比较ML中的关键隐私保护技术。
• 使用开源框架实施联邦学习系统。
• 应用差分隐私进行安全的数据共享和模型训练。
• 使用加密和安全计算技术保护模型输入和输出。

课程形式

• 互动讲座与讨论。
• 大量练习与实践。
• 在实时实验室环境中进行动手操作。

课程定制选项

• 如需定制本课程，请联系我们安排。

Course Outline:

隐私保护ML简介

• 敏感数据环境中的动机与风险。
• 隐私保护ML技术概述。
• 威胁模型与法规考量（如GDPR、HIPAA）。

联邦学习

• 联邦学习的概念与架构。
• 客户端-服务器同步与聚合。
• 使用PySyft和Flower进行实施。

差分隐私

• 差分隐私的数学原理。
• 在数据查询和模型训练中应用DP。
• 使用Opacus和TensorFlow Privacy。

安全多方计算（SMPC）

• SMPC协议与应用场景。
• 基于加密与秘密共享的方法。
• 使用CrypTen或PySyft进行安全计算工作流。

同态加密

• 完全与部分同态加密。
• 敏感工作负载的加密推理。
• 使用TenSEAL和Microsoft SEAL进行实践。

应用与行业案例研究

• 医疗隐私：用于医学AI的联邦学习。
• 金融中的安全协作：风险模型与合规性。
• 国防与政府用例。

总结与下一步