TensorFlow Serving

• 经验 TensorFlow
• 具有 Linux 命令行的经验

观众

• 开发 人员
• 数据科学家

TensorFlow Serving 是一种用于将机器学习 （ML） 模型提供给生产环境的系统。

在这个由讲师指导的现场培训（在线或现场）中，参与者将学习如何配置和使用 TensorFlow Serving 在生产环境中部署和管理 ML 模型。

在本次培训结束时，参与者将能够：

• 训练、导出和服务各种 TensorFlow 模型
• 使用单个架构和一组 API 测试和部署演算法
• 扩展 TensorFlow 服务于超出 TensorFlow 模型的其他类型的模型

课程形式

• 部分讲座、部分讨论、练习和大量动手实践

课程自定义选项

• 要申请本课程的定制培训，请联系我们进行安排。

TensorFlow Serving 概述

• 什么是TensorFlow Serving？
• TensorFlow Serving 建筑学
• 服务 API 和 REST 客户端 API

准备开发环境

• 安装和配置 Docker
• 使用 Docker 安装 ModelServer

TensorFlow 服务器快速入门

• 训练和导出 TensorFlow 模型
• 监视存储系统
• 加载导出的模型
• 构建 TensorFlow ModelServer

高级配置

• 编写配置文件
• 重新加载模型服务器配置
• 配置模型
• 使用监视配置

测试应用程序

• 测试和运行服务器

调试应用程序

• 处理错误

TensorFlow Serving 使用 Kubernetes

• 在 Docker 个容器中运行
• 部署服务集群

保护应用程序

• 隐藏数据

故障 排除

总结和结论