Tensorflow Serving不支持py_func

如題,在一些情況下,我們可能希望編寫一些自己的python代碼,不完全使用tensorflow已提供的計算圖來做,在一般情況下,可以使用tf.py_func。
但是如果想讓該代碼部署到tensorflow serving上,那麼恭喜,tensorflow serving是不支持的,會報如下錯誤:

Loading servable: {name: 模塊名 version: 版本號} failed: Not found: Op type not registered 'PyFunc' in binary running on 容器ID 

截止目前(2017.11.29)爲止,官方並沒有說要支持這個特性,有人讓你去使用tf.transform,解決辦法暫時只有C++:
1、自定義servable: https://www.tensorflow.org/serving/custom_servable
2、改tensorflow,自添加一個tensorflow op。

當然,可以像我一樣,特殊情況下選擇一些Python的服務端框架(如,tornado)自編寫,然後靜等tensorflow serving發展。

可以自己參考下tensorflow serving在git的相關issue

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章