數據標註的作用及行業現狀

在之前的內容中講過確立一個算法模型需要使用大量標註好的數據去訓練機器讓機器去學習其中的特徵以達到“智能”的目的。而數據標註就是幫助機器去學習去認知數據中的特徵。比如我們要讓機器學習認知汽車,我們直接給機器一個汽車的圖片它是無法識別的,我們必須對汽車圖片進行標註打上標籤註明“這是一個汽車”,當機器獲得大量打上標籤的汽車圖片進行學習之後,我們再給機器一個汽車的圖片,機器就能知道這是一個汽車了。

下面簡單講一下在算法模型中訓練集,測試集,驗證集的概念。比如我們有一批標註好的數據我們可以拿出60%作爲訓練集交給機器識別學習初步建立算法模型,再拿出20%的數據作爲驗證集驗證機器識別的準確性對模型進行初步評估並根據識別結果調整模型參數重新建立模型。最後再拿出20%的數據作爲測試集用來評估模最終模型的泛化能力,最終結果不能作爲調參的依據。
我們還可以這樣理解:
訓練集-----------學生的課本;學生 根據課本里的內容來掌握知識。
驗證集------------作業,通過作業可以知道 不同學生學習情況、進步的速 度快慢。
測試集-----------考試,考的題是平常都沒有見過,考察學生舉一反三的能力。

以上三種集的劃分比例不是固定的,對於百萬級別的數據集,我們可以採用98%/1%/1%的規則來劃分數據集。

最早這些標註數據需要那些研究AI算法的工程師在實驗室中完成,但是隨着人工智能在商用場景的落地這些待標註的數據呈“指數型”增長,工程師們根本無力完成那麼多數據,基於此一些專門的數據標註衆包平臺和數據標註公司應運而生,如百度衆測,京東衆智,數據堂,龍貓數據等。

×××發佈的《新一代人工智能發展規劃》顯示,到2020年,我國人工智能核心產業規模超過1500億元,帶動相關產業規模超過1萬億元。AI行業的快速發展需要海量高質量的標註數據作爲支撐,截止目前國內已有大小近千家數據標註公司,共20餘萬名數據標註員。

數據標註行業發展到現在已經不是簡單的拉框打點就能滿足的了,市場提出了更高的要求首先從標註的複雜程度看,以無人駕駛的汽車框標註爲例,以前是只需要標註基本輪廓就可以了,現在不只是從2D平面進化到3D立體,還要標註車頭的方向。從人員要求方面看,之前是有初高中文化足以勝任數據標註這份工作,現在則普遍要求專科本科的學歷,而且有些標註項目還需要專業人士來進行,比如涉及金融,醫療等行業的數據標註項目。

數據標註這個行業本質上講是一個勞動密集型行業,大部分人從事着簡單勞動,只不過披上了人工智能這件光鮮的外衣。人工智能的發展將會取代很多行業,未來數據標註行業會不會也被取代也還未知。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章