Docker使用tensorflow serving部署mnist模型
来源:互联网 发布:学建筑软件 编辑:程序博客网 时间:2024/05/22 15:25
参考:
1、https://tensorflow.google.cn/serving/serving_inception
2、https://tensorflow.google.cn/serving/serving_basic
主机安装tensorflow serving 参考这里
主机使用tensorflow serving部署mnist模型参考这里
Docker安装tensorflow serving 参考这里
Docker中部署Inception模型 参考这里
1、创建一个Docker镜像
参考:Docker安装tensorflow serving 参考这里
运行容器
docker pull registry.cn-hangzhou.aliyuncs.com/781708249/tensorflow-serving:v1 # 已经配置好的tensorflow serving 从阿里镜像拉下来git clone --recurse-submodules https://github.com/tensorflow/serving # serving下载到主机上docker run --name=mnist_container -it -v /home/wu/serving:/serving registry.cn-hangzhou.aliyuncs.com/781708249/tensorflow-serving:v1 /bin/bash # 使用-v 挂载到容器中
配置和构建TensorFlow服务
root@c97d8e820ced:/# cd serving/tensorflowroot@c97d8e820ced:/serving/tensorflow# ./configureroot@c97d8e820ced:/serving# cd ..root@c97d8e820ced:/serving# bazel build -c opt tensorflow_serving/example/...
root@c97d8e820ced:/serving# bazel build -c opt tensorflow_serving/model_servers:tensorflow_model_server
在容器中导出初始模型
在正在运行的容器中,我们运行mnist_saved_model.py
root@c97d8e820ced:/serving# rm -rf /tmp/mnist_modelroot@c97d8e820ced:/serving# bazel-bin/tensorflow_serving/example/mnist_saved_model /tmp/mnist_modelroot@c97d8e820ced:/serving# [Ctrl-p] + [Ctrl-q]
提交镜像进行部署
$ docker commit mnist_container $USER/mnist_serving$ docker stop mnist_container
2、在本地Docker容器中运行
我们使用构建的镜像在本地测试服务工作流程。
# $ docker run -it $USER/mnist_serving$ docker run -it -v /home/wu/serving:/serving $USER/mnist_serving
启动服务器
在容器中运行gRPC tensorflow_model_server
root@f07eec53fd95:/# cd servingroot@f07eec53fd95:/serving# bazel-bin/tensorflow_serving/model_servers/tensorflow_model_server --port=9000 --model_name=mnist --model_base_path=/tmp/mnist_model/ &> mnist_log &[2] 80
查询服务器
使用mnist_client.py查询服务器。
root@f07eec53fd95:/serving# bazel-bin/tensorflow_serving/example/mnist_client --num_tests=1000 --server=localhost:9000Extracting /tmp/train-images-idx3-ubyte.gzExtracting /tmp/train-labels-idx1-ubyte.gzExtracting /tmp/t10k-images-idx3-ubyte.gzExtracting /tmp/t10k-labels-idx1-ubyte.gz........................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................Inference error rate: 10.4%
mnist模型部署成功!
阅读全文
0 0
- Docker使用tensorflow serving部署mnist模型
- Win10下基于Docker使用tensorflow serving部署模型
- Docker使用TensorFlow Serving
- tensorflow serving:bazel方式部署模型+docker方式部署模型及提供服务以及使用该服务介绍(总有一款适合你)
- Tensorflow Serving 模型部署和服务
- Centos7部署Tensorflow Serving
- docker + tensorflow serving 踩坑记录
- TensorFlow Serving和Kubernetes 服务Inception模型
- 使用tensorflow serving 启动模型时,报如下错误:The TensorFlow library wasn't compiled to use SSE4.1 instructions
- TensorFlow MNIST CNN LeNet5模型
- tensorflow serving 服务部署与访问(Python + Java)
- Docker部署Tensorflow
- 【TensorFlow】MNIST(使用softmax)
- 【TensorFlow】MNIST(使用CNN)
- TensorFlow MNIST LeNet 模型持久化
- 安装tensorflow serving总结
- TensorFlow Serving 00 前言
- TensorFlow Serving 01 安装
- 谷歌浏览器google chrome快捷键大全
- pygame---精灵
- 基于TableStore(表格存储)构建简易海量Topic消息队列
- Golang从入门到精通(五):Golang控制语句之if/else
- 从excel 复制表格到word(原本,格式不变)
- Docker使用tensorflow serving部署mnist模型
- MAC TomCat配置流程
- RPM安装命令总结
- P12,JKS,CER,RFX,PEM转换速记
- 【Ray Tracing in One Weekend】(ch7)漫反射材质
- GreenDao3.0查询方法积累
- 使用腾讯云 GPU 学习深度学习系列之一:传统机器学习的回顾
- Exception in thread "main" java.lang.UnsatisfiedLinkError: org.apache.hadoop.io.nativeio.NativeIO$Wi
- 扫雷程序(C语言并优化): 1>第一次下子,不炸死。 2>坐标周围没雷,可以实现展开。