作爲AI芯片設計驗證工程師,會用到SystemVerilog/Verilog等硬件語言去寫設計代碼。
寫好設計代碼後,都會自己先簡單測試一下。
目前的AI芯片,不再選擇傳統的單精度和雙精度浮點數作計算,而是選擇半精度浮點數,如果做了量化,還會選用8bit的定點數。
以下是一些常用到的測試數據。
1. 16進制數
16進制數:十進制數
0000(0):0
0001(1):1
0010(2):2
0011(3):3
0100(4):4
0101(5):5
0110(6):6
0111(7):7
1000(8):8
1001(9):9
1010(A):10
1011(B):11
1100(C):12
1101(D):13
1110(E):14
1111(F):15
2. 半精度浮點數
半精度浮點數,1比特符號位,5比特指數位,10比特位數位。
十進制數:半精度浮點數(16進制)
0.5:3800
1:3C00
2:4000
3:4200
4:4400
5:4500
6:4600
7:4700
8:4800
9:4880
10:4900