Oneflow深度學習框架訓練加速:提供高頻多次、有效的模型訓練服務 | 百萬人學AI評選

2020 無疑是特殊的一年,而 AI 在開年的這場”戰疫“中表現出了驚人的力量。站在“新十年”的起點上,CSDN【百萬人學AI】評選活動正式啓動。本屆評選活動在前兩屆的基礎上再度升級,設立了「AI優秀案例獎Top 30」、「AI新銳公司獎Top 10」、「AI開源貢獻獎Top 5」三大獎項。我們相信,榜樣的力量將成爲促進AI行業不斷髮展的重要基石,而CSDN將與這些榜樣一起,助力AI時代的”新基建“。

活動官網:https://bss.csdn.net/m/topic/ai_selection/index

申報地址:http://csdnprogrammer.mikecrm.com/WpA03hJ

一、公司簡介

北京一流科技有限公司是一家提供深度學習整體解決方案的科技創新公司。公司創立於2017年1月,擁有業界領先且完全自主知識產權的分佈式深度學習框架OneFlow,並具備提供一站式人工智能綜合解決方案的能力,已服務於金融、安防、政務、雲計算、互聯網、AI芯片等諸多行業客戶。公司自成立以來,已經遞交人工智能操作系統及雲計算相關核心發明專利申請數十項,並連續完成由快手、九合創投等國內知名投資機構的數千萬級風險投資。
深度學習框架素有人工智能操作系統之稱,決定了人工智能算法和應用的技術高度。OneFlow深度學習框架是世界首個且唯一一個專爲深度學習打造的異構分佈式流式系統,獨創了自動數據模型混合並行、靜態調度、去中心化和全鏈路異步流式執行四大核心技術,完美地解決了大數據、大模型、大計算所帶來的異構集羣分佈式擴展挑戰,技術水平世界領先。基於OneFlow深度學習框架及其衍生產品(包括一站式機器學習平臺OneBrain、模型訓練服務TaaS、AI軟硬件一體化協同方案等),一流科技能夠爲客戶快速搭建一站式、高性能、低成本深度學習平臺乃至人工智能綜合解決方案,讓人工智能強大且簡單。
創始人袁進輝博士,畢業於清華大學計算機系,師從清華大學人工智能研究院院長、中國人工智能學界泰斗張鈸院士。研究方向爲計算機視覺及機器學習,是清華大學優秀博士學位論文獎獲得者、微軟亞洲研究院院長特別獎獲得者(top 1%),曾多次在IEEE、ACM、International Conference on World Wide Web等國外核心期刊和頂級會議上發表重要論文,主持及參與過多項國家自然科學基金項目。公司於2017年5月、2019年4月和2019年10月分別完成三輪共計數千萬元的股權融資。公司主導產品爲OneFlow。

 

二、案例詳情

產品詳情

1) OneFlow新一代深度學習框架。爲客戶提供端到端的完全自主知識產權深度學習框架,爲用戶提供包括模型訓練、模型預測、模型部署、端側推理等的全棧工具;市場和客戶主要包括所有人工智能相關企業,尤其是大規模大數據大模型需求的頭部互聯網公司,以及黨政軍全自主可控AI產業鏈。
2)OneBrain一站式機器學習平臺。涵蓋數據集處理和管理、模型全生命週期管理、用戶管理、可視化管理等全工具產業鏈;市場和客戶主要包括大數據企業向人工智能企業升級迭代用戶,尤其在金融、電網、電信、政務雲等行業及政府、高校及科研院所等機構單位。
3)TaaS模型庫及模型訓練服務。幫助用戶完成模型的構建、預測、訓練、調優、部署等工作,使得用戶脫離於對模型本身的依賴性;該服務的市場面向各大雲PaaS廠商的下游客戶,這些客戶一般AI能力不強、開箱即用需求量大、有數據積累、願意託付第三方完成模型訓練工作。
4)軟硬件一體化協同方案。通過協同人工智能芯片設計廠商將深度學習框架直接植入人工智能底層硬件以構建人工智能基礎軟硬件一體化的解決方案,主要面向人工智能芯片設計企業,尤其是國內自主研發的AI芯片企業,涵蓋NPU、ASIC、GPU、FPGA等諸多架構和供應商。

 

技術研發投入

成立三年來,研發投入佔公司總支出百分之90以上,研發員工數量佔公司全部的百分之95以上。據統計,一流科技現有核心框架研發團隊規模已經佔據了國內頂級框架研發人員的1/3之多。一流科技是唯一把深度學習框架研發作爲核心使命的公司,全體研發人員自公司成立到現在一直專注於在覈心框架的技術創新,心無旁騖篤定前行。公司未來仍將以研發核心技術爲公司第一戰略目標,進一步增加研發支出。

 

三、典型應用場景

Bert-Large模型包含3.4億參數,用16個TPUV3需要訓練96個小時,訓練成本約爲10.6萬。如果使用GPU集羣則需要20天左右,訓練成本高達31.7萬。通過使用一流科技自研的OneFlow深度學習框架,利用GPU集羣在100個小時之內就能有效的完成了全部訓練工作,訓練成本降低至6.6萬。極大地提升了客戶的訓練效率,降低了運營成本、管理成本和研發成本。

案例:

  • 國產office爲代表產品的某公司,期望利用Bert大模型的有效訓練,針對性的提升自身NLP領域的科研能力和實戰能力,並在此訓練結果的基礎上將訓練成果預裝到集團雲PaaS服務商之上,通過雲端客羣的輻射能力服務更多的上層應用客戶,幫客戶增強NLP應用領域的準確率和實用性;
  • 另一頭部互聯網公司,其絕對壟斷地位的輸入法產品,有大量中文語料的NLP領域訓練需求。在應用OneFlow框架之前,其他框架產品對於底層的GPU硬件利用率不高,使得訓練收斂時間冗長,增加的訓練成本和運營成本,並不能有效的形成訓練-部署-應用這一正向閉環。通過OneFlow框架在該公司搜索事業部和語音事業部的大規模使用,大大的提升了公司內部GPU集羣的硬件利用率,將以前由幾個星期完成的訓練工作縮短到幾天內完成,該公司的算法工程師得以靈活的根據客戶反饋和市場需求情況調整算法模型,進而通過OneFlow框架實現高頻多次的有效模型訓練。

 

更多關於一流科技的內容:

【一流科技:致力於成爲國內影響力第一的深度學習框架 | 百萬人學AI評選】鏈接:https://blog.csdn.net/weixin_37986590/article/details/106849491

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章