TensorFlow Serving

• 經驗 TensorFlow
• 具有 Linux 命令行的經驗

觀眾

• 開發人員
• 數據科學家

TensorFlow Serving 是一種用於將機器學習 （ML） 模型提供給生產環境的系統。

在這個由講師指導的現場培訓（在線或現場）中，參與者將學習如何配置和使用 TensorFlow Serving 在生產環境中部署和管理 ML 模型。

在本次培訓結束時，參與者將能夠：

• 訓練、導出和服務各種 TensorFlow 模型
• 使用單個架構和一組 API 測試和部署演算法
• 擴展 TensorFlow 服務於超出 TensorFlow 模型的其他類型的模型

課程形式

• 部分講座、部分討論、練習和大量動手實踐

課程自定義選項

• 要申請本課程的定製培訓，請聯繫我們進行安排。

TensorFlow Serving 概述

• 什麼是TensorFlow Serving？
• TensorFlow Serving 建築學
• 服務 API 和 REST 用戶端 API

準備開發環境

• 安裝與設定Docker
• 使用 Docker 安裝 ModelServer

TensorFlow 伺服器快速入門

• 訓練和導出 TensorFlow 模型
• 監視存儲系統
• 載入導出的模型
• 構建 TensorFlow ModelServer

高級配置

• 編寫配置檔
• 重新載入模型伺服器配置
• 配置模型
• 使用監視配置

測試應用程式

• 測試和運行伺服器

調試應用程式

• 處理錯誤

TensorFlow Serving 使用 Kubernetes

• 在 Docker 個容器中運行
• 部署服務集群

保護應用程式

• 隱藏數據

故障排除

總結和結論