Tensorflow serving(tf_serving) 安装测试说明
来源:互联网 发布:logo图标快速生成软件 编辑:程序博客网 时间:2024/05/18 03:36
编译安装tf_serving,需要添加一些依赖
Bazel:集成的类似于makefile 文件性质的编译工具,
安装参考https://bazel.build/versions/master/docs/install.html
gRPC:tf_serving 构建client和server连接桥梁的依赖工具,基于protobuf实现的,
安装参考:https://github.com/grpc/grpc/tree/master/src/python/grpcio
以上准备就绪就可以开始从源处安装tf_serving :
1. clone tf_serving 资料库
$>git clone --recurse-submodules https://github.com/tensorflow/serving$>cd serving$
2.配置文件 $>cd tensorflow
$./configure
$>cd ..
特别注意:此处配置python路径时,一定要知道自己使用的依赖包在哪个个路径,如果依赖包没有在当前的python路径下,要通过export $PYTHONPATH=“你的包所在路径”添加引用路径下,个人踩过的坑
3. 通过bazel 创建tensorflow_serving(初次耗时会比较长)
$>bazel build tensorflow_serving/...
4. 测试安装 $>bazel test tensorflow_serving/...
5. 训练模型(使用原包有的训练数据)
删除/tmp/mnist_model/路径下的东西,因为该路径会被用来存储训练好的模型
$>rm -rf /tmp/mnist_model
$>bazel build //tensorflow_serving/example:mnist_saved_model$>bazel-bin/tensorflow_serving/example/mnist_saved_model /tmp/mnist_modelTraining model......Done training!Exporting trained model to /tmp/mnist_modelDone exporting!
6.查看训练好的模型
$>ls /tmp/mnist_model1
7.启动服务
$>bazel build //tensorflow_serving/model_servers:tensorflow_model_server$>bazel-bin/tensorflow_serving/model_servers/tensorflow_model_server --port=9000 --model_name=mnist --model_base_path=/tmp/mnist_model/
8.客户端调用model
$>bazel build //tensorflow_serving/example:mnist_client$>bazel-bin/tensorflow_serving/example/mnist_client --num_tests=1000 --server=localhost:9000...Inference error rate: 10.5%
tf-serving优势:
多版本支持
多模型
支持batching
- Tensorflow serving(tf_serving) 安装测试说明
- 安装tensorflow serving总结
- TensorFlow Serving 01 安装
- TensorFlow Serving,GPU版安装
- TF_Serving安装篇
- Centos7部署Tensorflow Serving
- TensorFlow Serving 00 前言
- TensorFlow Serving 02 serving_basic
- Tensorflow Serving不支持py_func
- Docker使用TensorFlow Serving
- tensorflow serving for centos 7.2
- 谷歌发布 TensorFlow Serving
- tensorflow serving slim配置流程
- TensorFlow Serving 中的最新创新
- TensorFlow Serving 中的最新创新
- TensorFlow学习笔记13----TensorFlow Serving
- tensorflow serving 安装报错:java.io.IOException: Cannot run program "patch"
- tensorflow安装与测试
- ios 访问权限获取
- ifdefine __cplusplus extern c{}的作用
- 汇编复习题 Test1
- 我们所说的前端框架与库的区别?
- [YTU]_2532(投简历)
- Tensorflow serving(tf_serving) 安装测试说明
- 第3章 模板
- 基于Hough变换的直线和圆的检测与提取
- 自定义ViewGroup练习一
- 【web开发-协议】HTTP协议
- mysql 将时间戳转换为日期时间/将日期时间转换成时间戳
- [YTU]_2560(C++继承(改错题))
- Ubuntu下 qtcharts2.0 下载 编译 安装
- 安卓JNI分析