tensorlfow手动插入fake quant node之op的多个输入区间差别过大

如图:
在这里插入图片描述
对于add这个op,左边的输入范围为[-50,50],且左边为网络中间特征tensor,右边为掩码,范围为[0,10000],则add以后的输出为【0,10050】,如果在add以后插入量化节点,则中间特征tensor的精度损失殆尽!

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章