使用tensorflow对模型进行量化

本文旨在将训练好的模型基于tensorflow自带工具进行量化。
环境配置部分可参考博文[https://www.cnblogs.com/hayley111/p/12887853.html]。
首先使用如下workflow理解模型部署的过程,本文主要描述的是

bazel build tensorflow/python/tools:freeze_graph

出现以下信息表示bazel-bin编译成功:
使用tensorflow对模型进行量化

  • 查看上述2中step3中的training文件夹,一般一般情况下用tf.train.Saver.save()方式保存下来的checkpoint会产生四个文件:
checkpoint #文本文件,该文件记录了保存的最新的checkpoint文件以及其他checkpoint文件列表
model.ckpt.data-00000-of-00001 #.data文件保存了当前参数值
model.ckpt.index #.index文件保存了当前参数名
model.ckpt.meta #.meta文件保存了当前图结构

使用tensorflow对模型进行量化

相关推荐