Natural Language Processing with TensorFlow

python的工作知識

TensorFlow ™是一個使用數據流圖進行數值計算的開源軟件庫。

SyntaxNet是TensorFlow的神經網絡自然語言處理框架。

Word 2Vec用於學習單詞的矢量表示，稱為“單詞嵌入”。 Word 2vec是一種特別計算有效的預測模型，用於學習原始文本中的單詞嵌入。它有兩種形式，連續Bag-of- Word模型（CBOW）和Skip-Gram模型（Mikolov等人的第3.1和3.2章）。

使用串聯，SyntaxNet和Word 2Vec允許用戶從自然語言輸入生成學習嵌入模型。

聽眾

本課程面向打算在TensorFlow圖中使用SyntaxNet和Word 2Vec模型的開發人員和工程師。

完成本課程後，代表們將：

• 了解TensorFlow的結構和部署機制
• 能夠執行安裝/生產環境/架構任務和配置
• 能夠評估代碼質量，執行調試，監控
• 能夠實現高級生產，如培訓模型，嵌入術語，構建圖形和記錄

開始

• 設置和安裝

TensorFlow 基本資訊

• 創建、初始化、保存和恢復 TensorFlow 變數
• 饋送、讀取和預載入 TensorFlow 數據
• 如何使用 TensorFlow 基礎設施大規模訓練模型
• 使用 TensorBoard 視覺化和評估模型

TensorFlow 力學 101

• 準備數據
  • 下載
  • 輸入和佔位元
• 構建圖形
  • 推理
  • 損失
  • 訓練
• 訓練模型
  • 圖表
  • 會議
  • 火車環線
• 評估模型
  • 構建 Eval Graph
  • Eval 輸出

高級用法

• 線程和佇列
• 分散式 TensorFlow
• 編寫 Documentation 並共用模型
• 自定義 Data Reader
• 使用 GPUs
• 操作 TensorFlow 模型檔

TensorFlow 份量

• 介紹
• 基本服務教程
• 高級服務教程
• Serving Inception 模型教程

SyntaxNet 入門

• 從標準輸入解析
• 對語料庫進行註釋
• 配置 Python 腳本

使用 SyntaxNet 構建 NLP 管道

• 獲取數據
• 詞性標記
• 訓練 SyntaxNet POS 標記器
• 使用 Tagger 進行預處理
• 依賴關係解析：基於轉換的解析
• 訓練解析器步驟 1：本地預訓練
• 訓練解析器步驟 2：全域訓練

Words 的向量表示

• 動機：為什麼要學習單詞嵌入？
• 使用 Noise-Contrastive Training 進行擴展
• Skip-gram 模型
• 構建圖形
• 訓練模型
• 可視化學習的嵌入
• 評估嵌入：類比推理
• 優化實施