
一旦你很好的完成了机器模型训练,我们怎么完成大规模的服务器预测呢?请看看这一集的云AI 冒险吧!
Google 云 机器学习引擎可以让你通过TensorFlow进行模型预测,并且不需要任何的运维工作。得到更多的时间来和你的数据工作,通过训练模型到进行部署,在几分钟内进行自动化大规模预测服务。
提供预测:最后一步
因此,我们会获取我们的数据,并且最终完成合适的模型训练并且验证最终的表现。我们现在最后准备跳到最后的阶段:提供你的预测。
在接受提供预测的挑战时候,理想情况下我们会部署一个模型用于特别的服务。特别是一个快速、轻量级的静态模型,因为我们不希望在服务时发生任何的更新。
此外,我们想要我们的预测服务有大规模的需求,这有增加了问题的复杂性。
导出TensorFlow 模型
原来TensorFlow有一个内置函数,可以生成一个优化的模型来提供预测!它处理了所有的调整需求,也为你节省了很多工作。
这个内置函数叫做 export_savemodel(),并且我们可以直接的对对象进行分类一旦您对训练模型的状态感到满意。

它会获取你模型的一个快照,并且导出为一组文件你可以在其他的地方使用。随着时间推移,你的模型提升,你可以继续产出升级的导出模型,从而随着时间推移提为你的模型提供多版本。
在预测中提供模型
一旦你有导出的模型,你准备让其进行预测。这里你有2个主选项:使用 TensorFlow 服务,或者云机器学习引擎进行预测服务。
TensorFlow 服务本身就是TensorFlow中的一部分,可以在GitHub上面看到他们。如果你很享受这些配置来进行预测,基础设施和扩大需求。

然而,今天我们会将我们的注意力集中在云机器学习引擎预测服务,尽管他们有相似的文件交互接口。
云机器学习引擎允许你拿一个到处的TensorFlow模型并且将其转换成一个内置API端点的预测服务,他们是自动伸缩的哪个一直减到0。(也就是说,当没有人要求预测时,没有计算费用)
它同样也一同了丰富的功能命令行,API 和 UI,因此我们可以根据自己的喜好对其进行交互。

部署一个新的预测模型
让我们看看一个新的例子,来看看怎么使用云机器学习引擎来预测我们的Iris案例。
导出和上传
首先,在我们的训练分类上运行export_savemodel().这个会生成一个导出模型用于预测我们的服务。

在下一步,我们会想要上传文件到Google 云存储。当创建一个新的模型版本,云机器学习引擎就会从云存储这进行读取。

当你在创建你的水桶时,请确认选择区域存储类别。以确保你的计算和存储是在同一个区域。
创建一个新的模型
在云机器学习UI中,我们可以创建一个新的模型,它真的仅仅是一个大包用于包揽我们推出的版本。版本拿住了我们独立的导出模型,而模型抽象功能有助于帮助路由对传入的流量进行你选择的适当的版本。
这是模型列表视图中的东西,在这里我们可以创建一个新的模型

让我们为模型创建一个名称把,我们称之为iris_model.
创建一个新的版本
下一步,我们将创建一个版本,通过选择名称来指定模型的版本。并且将其指向保存导出文件的云存储目录。

并且就像这样,我们创建了我们的模型!只需要将其指定到我们导出的模型并且给与名称就好。
怎么只需要这么一点的工作?该服务处理了所有设置方面的操作以及安全端点。此外,我们不需要编写自己的代码来运行大型的需求。并且它是云端的,并且是弹性的,这意味着你不需要为低需求支付未使用的计算。
通过设置一个用于识别iris模型的预测服务,就可以无需任何运维工作,我们已经能够从训练模型到部署,在很短的时间内调整预测服务,这意味着我们有更多的时间来处理我们的数据。
感谢阅读本期的云AI冒险版本,一定要订阅这个频道,以便于在将来有新的视频的时候即时跟进。
如果你想要学习更多关于TensorFlow Serving 的内容,请点击今年早期TensorFlow 开发者顶会。
https://www.youtube.com/watch?v=sqYdlSF0BI8
不要忘记,在生产中调整你的机器学习服务:云机器学习引擎有你的支持。