1. Docker环境安装
sudo apt-get install docker
sudo apt-get install docker.io -y
sudo apt-get install docker-registry -y
sudo sevice docker start (启动docker)
docker常用命令小结 ①查询正在运行的容器 sudo docker ps -a ②查询正在运行的容器id sudo docker ps -aq 可以查询到容器运行的名称及id ③ 查询以后停止某个容器(停止其id) sudo docker stop id ④ 查询所有容器的镜像id sudo docker images ⑤ 删除镜像id sudo docker rmi (这里是镜像id) 例如 sudo docker rmi abcd123456789
2.
docker 拉取Tensorflow Serving的镜像
sudo docker pull tensorflow/serving
3. git serving 程序包
在自定义目录 /home/user01/docker 执行 git clone https://github.com/tensorflow/serving
执行如下命令启动服务
sudo docker run -t --rm -p 8501:8501 -v "/home/user/docker/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_two_cpu:/models/half_plus_two" -e MODEL_NAME=half_plus_two tensorflow/serving &
备注:如果训练了自己的模型 模型保存目录/home/user/docker/tf2save/tf_saved_models/1
该目录下有三个文件和文件夹 assets saved_model.pb variables
此时的执行命令为 sudo docker run -t --rm -p 8501:8501 -v "/home/user/docker/tf2save/tf_saved_models:/models/tf_saved_models" -e MODEL_NAME=tf_saved_models tensorflow/serving &
请求地址为 http://localhost:8501/v1/models/tf_saved_models:tf_saved_models
4.执行如下命令测试服务,出现以下则安装成功
curl -d '{"instances": [1.0, 2.0, 5.0]}' -X POST http://localhost:8501/v1/models/half_plus_two:predict
5. 后续更新