編譯：chux
出品：ATYUN訂閱號
芯片製造商Flex Logix今天推出了新的Nmax通用神經推理引擎，該引擎專爲在許多環境中使用流行的機器學習框架（如TensorFlow或Caffe）進行AI部署而設計，可以將多個神經加速器組合在一起以實現更高水平的吞吐量。
Flex Logix表示，在處理來自圖像分類基準ResNet50的批次時，其Nmax 512拼貼配置勝過其他數據中心推理產品，如Nvidia Tesla T4。加速器還可以使用YOLOv3等產品對多個物體進行實時檢測，以滿足對邊緣視覺處理不斷增長的需求。
“憑藉我們的架構，由於我們可以非常快地加載重量，即使批量大小等於1，我們也能獲得高性能，因此我們在數據中心方面表現優異，”Flex Logix首席執行官兼聯合創始人Geoff Tate表示。
Nmax系列今天在加利福尼亞州聖克拉拉舉行的Linley處理器會議上首次亮相。它現在正在生產中，Tate表示Nmax引擎將於2019年末上市。
Nmax引擎與Flex Logix以前的工作背道而馳，之前主要專注於專門用於哈佛大學，DARPA和波音等客戶的特定任務的嵌入式現場可編程門陣列（FPGA）芯片。
Nmax使用互連技術，如FPGA芯片中使用的類型，但它是一個通用的神經推理引擎，使用TensorFlow進行編程，設計用於運行任何類型的神經網絡。
2017年5月，Flex Logix籌集了500萬美元的融資，以探索構建更靈活芯片的方法。
Tate表示，除了能夠快速處理視覺信息外，Nmax還保持較低的DRAM帶寬率和較高的MAC效率，從而降低了能耗水平。原始計算能力可能會得到很多關注，但能源效率是訓練AI系統所需的另一個重要部分。
Tate表示，“無論人們現在在做什麼，在五年內，這些模型將繼續變得越來越大，越來越複雜，這意味着我們必須每秒更多的tera操作（TOPS），但功率限制不會更改。因此，爲了擴大市場規模，將繼續施加壓力以降低每瓦特的TOPS。如果做不到，市場就不會擴大。當然還有一個成本組件，但是你需要更低的成本和更低的功率才能滲透到這些應用中。”