tensorlfow手動插入fake quant node之op的多個輸入區間差別過大

如圖:
在這裏插入圖片描述
對於add這個op,左邊的輸入範圍爲[-50,50],且左邊爲網絡中間特徵tensor,右邊爲掩碼,範圍爲[0,10000],則add以後的輸出爲【0,10050】,如果在add以後插入量化節點,則中間特徵tensor的精度損失殆盡!

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章