阿里春招之旅(五)

這是阿里雲四面(總監面)的覆盤,一如二面的遭遇(別問,一問就是涼經-^-),卻不知道能否有二面的好運氣了。。。

這次的面試不長,只有50min,實在是被問題狂轟亂炸得不要不要的…
下面是這次面試內容的重難點:

  1. 分佈式系統:如何使用分佈式技術加快訓練深度學習模型?調度器如何設計?
    加快DL模型訓練過程具有很高的現實意義,可以從數據與模型以及分佈式訓練三個大方面考慮:數據方面,考慮樣本下采樣與特徵下采樣;模型方面,可以考慮減小複雜度,如模型壓縮(剪枝)的方法;分佈式技術方面,pytorch框架提供了分佈式訓練的接口(nn.distributedataparallel)。另外混合精度訓練技術也可以加快DL模型的訓練過程。
    參考資料:
    PyTorch分佈式訓練簡明教程
    All Reduce
    混合精度訓練-Pytorch
  2. 進程管理(OS):進程、線程和協程的聯繫與區別?進程調度策略?進程切換的實現細節是怎麼樣的?

結語
雖然我投的是算法崗,但是前輩並沒有問算法細節,反而是通過你敘述項目的時候,找到需求點(比如:如何在大數據情況下,縮短DL模型訓練時間),從而遷移到他所熟悉的領域(分佈式存儲與計算)。所以,可以知道了解目標部門的核心技術應該是這一面的突破點。

如果覺得不錯,請素質三連哈~~
有疑問,歡迎評論、共同探討-v-

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章