Artificial Neural Networks, Machine Learning, Deep Thinking

GoOD 对数学的理解。

GoOD 对基本统计的理解。

基本的编程技能不是必需的，但建议使用。

人工神经网络是一种计算数据模型，用于开发能够执行“智能”任务的 Artificial Intelligence (AI) 系统。Neural Networks 通常用于 Machine Learning （ML） 应用程序，这些应用程序本身就是 AI 的一种实现。Deep Learning 是 ML 的一个子集。

第 1 天 - 人工神经网络

简介和人工神经网络结构。

• Bio逻辑神经元和人工神经元。
• 人工神经网络的模型。
• 人工神经网络中使用的激活函数。
• 典型的网络架构类别。

Mathematical 基础和学习机制。

• 重新审视向量和矩阵代数。
• 状态空间概念。
• 优化的概念。
• 纠错学习。
• 基于记忆的学习。
• 赫比安学习。
• 竞争性学习。

单层感知器。

• 感知器的结构和学习。
• 模式分类器 - 简介和贝叶斯分类器。
• 感知器作为模式分类器。
• 感知器收敛。
• 感知器的局限性。

前馈 ANN。

• 多层前馈网络的结构.
• 反向传播算法。
• 反向传播 - 训练和收敛。
• 具有反向传播的函数近似。
• 反向传播学习的实际和设计问题。

径向基函数网络。

• 模式可分离性和插值。
• 正则化理论。
• 正则化和 RBF 网络。
• RBF 网络设计和培训。
• RBF 的近似属性。

竞争性学习和自组织 ANN。

• 常规聚类分析过程。
• 学习向量量化 （LVQ）。
• 竞争性学习算法和架构。
• 自组织特征图。
• 特征图的属性。

模糊 Neural Networks。

• 神经模糊系统。
• 模糊集和逻辑的背景。
• 模糊茎的设计。
• 模糊人工神经网络的设计。

应用

• 本文将讨论神经网络应用的几个例子，以及它们的优点和问题。

第 -2 天：机器学习

• PAC 学习框架
  • 有限假设集的保证 - 一致情况
  • 有限假设集的保证 – 不一致情况
  • 泛泛而谈
    • 确定性简历。随机情景
    • 贝叶斯误差噪声
    • 估计和近似误差
    • 选型
• Radmeacher 复杂性和 VC – 维度
• 偏差 - 方差权衡
• 正则化
• 过拟合
• 验证
• 支持向量机
• 克里金法（高斯过程回归）
• PCA 和内核 PCA
• 自组织映射 （SOM）
• 核诱导向量空间
  • Mercer Kernels 和 Kernel - 诱导的相似性指标
• Reinforcement Learning

第 3 天 - 深度学习

这将与第 1 天和第 2 天涵盖的主题相关进行教学

• Logistic 和 Softmax 回归
• 稀疏自动编码器
• 矢量化、PCA 和美白
• 自学成才
• 深度网络
• 线性解码器
• 卷积和池化
• 稀疏编码
• 独立成分分析
• 典型相关性分析
• 演示和应用