ubuntu安装 docker 和 tensorflow/serving 启动服务

1. Docker环境安装

sudo apt-get install docker

sudo apt-get install docker.io -y

sudo apt-get install docker-registry -y

sudo sevice docker start  (启动docker)

docker常用命令小结 ①查询正在运行的容器 sudo docker ps -a  ②查询正在运行的容器id   sudo docker ps -aq 可以查询到容器运行的名称及id  ③ 查询以后停止某个容器(停止其id)  sudo docker stop id  ④ 查询所有容器的镜像id  sudo docker images ⑤ 删除镜像id sudo docker rmi  (这里是镜像id)  例如 sudo docker rmi  abcd123456789

2.

docker 拉取Tensorflow Serving的镜像

sudo docker pull tensorflow/serving

3. git serving 程序包

在自定义目录  /home/user01/docker 执行  git clone https://github.com/tensorflow/serving

执行如下命令启动服务

sudo  docker  run  -t  --rm  -p  8501:8501  -v  "/home/user/docker/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_two_cpu:/models/half_plus_two"   -e        MODEL_NAME=half_plus_two  tensorflow/serving  &

备注:如果训练了自己的模型 模型保存目录/home/user/docker/tf2save/tf_saved_models/1

该目录下有三个文件和文件夹 assets saved_model.pb variables

此时的执行命令为 sudo  docker  run  -t  --rm  -p  8501:8501  -v  "/home/user/docker/tf2save/tf_saved_models:/models/tf_saved_models" -e MODEL_NAME=tf_saved_models   tensorflow/serving  &

请求地址为  http://localhost:8501/v1/models/tf_saved_models:tf_saved_models

4.执行如下命令测试服务,出现以下则安装成功

curl -d '{"instances": [1.0, 2.0, 5.0]}' -X POST http://localhost:8501/v1/models/half_plus_two:predict

5.  后续更新

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容