tf servering 的筆記

兩步走  

docker run -it -p 8500:8500 tensorflow/serving:latest-devel
tensorflow_model_server --rest_api_port=8501 --model_name=mnist --model_base_path=/export
訪問:
1.前面一步 只是映射了8500  所以8500(grpc)端口所有IP都能訪問; 8501(rest)沒有做映射只有dockerip能訪問。
2.容器中8500是默認的 8501並不是默認開啓 這兩者並不是不能更改,已驗證。
3.因爲映射的端口都是8500,所以8500端口 所有ip都能訪問,如果映射是9500:8500,那localhost 和 hostip只能訪問9500
4.dockerip 只能訪問docker內部的端口8500 

一步式
sudo docker run -p 9500:8500 -p:9501:8501 --mount type=bind,s
ource=/home/user/document/model_deployment/model_deployment-master/tensorflow_serving/export/,target=/models/my_model -e MODEL_NAME=mnist -t tensorflow/serving:latest-devel

 

 

docker的一些命令
查看現有的鏡像  sudo docker images

查看已啓動容器  sudo  docker ps

關閉已啓動容器  sudo docker stop id

進入容器 sudo docker run -it -p 8500:8500 tensorflow/serving:latest-devel

開啓tf servering  sudo docker cp /home/user/docker/tensorflow-mnist/mnist_tfserg_model   bafaaaa573b4:/
退出後之前鏡像的保存就沒有了 可以通過構建鏡像
構建鏡像  sudo docker commit 614122c0aabb tensorflow/models

進入構建的鏡像   sudo docker run -it -p 8500:8500 tensorflow/models

查看docker信息:cat /etc/hosts

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章