Artificial Neural Networks, Machine Learning, Deep Thinking

GoOD 對數學的理解。

GoOD 對基本統計的理解。

基本的程式設計技能不是必需的，但建議使用。

人工神經網路是一種計算數據模型，用於開發能夠執行“智慧”任務的 Artificial Intelligence (AI) 系統。Neural Networks 通常用於 Machine Learning （ML） 應用程式，這些應用程式本身就是 AI 的一種實現。Deep Learning 是 ML 的一個子集。

第 1 天 - 人工神經網路

簡介和人工神經網路結構。

• Bio邏輯神經元和人工神經元。
• 人工神經網路的模型。
• 人工神經網路中使用的啟動函數。
• 典型的網路架構類別。

Mathematical 基礎和學習機制。

• 重新審視向量和矩陣代數。
• 狀態空間概念。
• 優化的概念。
• 糾錯學習。
• 基於記憶的學習。
• 赫比安學習。
• 競爭性學習。

單層感知器。

• 感知器的結構和學習。
• 模式分類器 - 簡介和貝葉斯分類器。
• 感知器作為模式分類器。
• 感知器收斂。
• 感知器的局限性。

前饋 ANN。

• 多層前饋網路的結構.
• 反向傳播演算法。
• 反向傳播 - 訓練和收斂。
• 具有反向傳播的函數近似。
• 反向傳播學習的實際和設計問題。

徑向基函數網路。

• 模式可分離性和插值。
• 正則化理論。
• 正則化和 RBF 網路。
• RBF 網路設計和培訓。
• RBF 的近似屬性。

競爭性學習和自組織 ANN。

• 常規聚類分析過程。
• 學習向量量化 （LVQ）。
• 競爭性學習演算法和架構。
• 自組織特徵圖。
• 特徵圖的屬性。

模糊 Neural Networks。

• 神經模糊系統。
• 模糊集和邏輯的背景。
• 模糊莖的設計。
• 模糊人工神經網路的設計。

應用

• 本文將討論神經網路應用的幾個例子，以及它們的優點和問題。

第 -2 天：機器學習

• PAC 學習框架
  • 有限假設集的保證 - 一致情況
  • 有限假設集的保證 – 不一致情況
  • 泛泛而談
    • 確定性簡歷。隨機情景
    • 貝葉斯誤差雜訊
    • 估計和近似誤差
    • 選型
• Radmeacher 複雜性和 VC – 維度
• 偏差 - 方差權衡
• 正則化
• 過擬合
• 驗證
• 支援向量機
• 克里金法（高斯過程回歸）
• PCA 和內核 PCA
• 自組織映射 （SOM）
• 核誘導向量空間
  • Mercer Kernels 和 Kernel - 誘導的相似性指標
• Reinforcement Learning

第 3 天 - 深度學習

這將與第 1 天和第 2 天涵蓋的主題相關進行教學

• Logistic 和 Softmax 回歸
• 稀疏自動編碼器
• 矢量化、PCA 和美白
• 自學成才
• 深度網路
• 線性解碼器
• 卷積和池化
• 稀疏編碼
• 獨立成分分析
• 典型相關性分析
• 演示和應用