機器學習博士自救指南

↑↑↑點擊上方藍字,回覆資料,10個G的驚喜

 轉載自 | AI科技評論
編譯 | 青暮、陳大鑫
關於如何攻讀機器學習博士學位,這個嘛,主要是不要重蹈我的覆轍,哈哈。
你已經開始了博士的學習課程,恭喜恭喜。在這篇文章裏,我們將討論在攻讀博士學位期間要做的事情,包括如何成功發表論文、如何應對評審、如何在會議上游刃有餘等等。
首先,我要說一句,我不擅長攻讀博士,我不是這方面的專家。我就快要拿到博士學位了,但我曾經做錯了很多事情,絕不是一個成功的學者。但是,如果你也像我一樣,在剛剛開始博士生涯時,並不知道該做什麼,不知道如何選擇研究主題,不知道如何撰寫論文。那麼,我或許可以給你提供點兒幫助。
我可以告訴你的是,我見過很多擅長此事(攻讀博士)的人。因此,我可以告訴你這些人做對了什麼,而我自己又做錯了什麼,以及我認爲你應該學習的方面。
 
1

選擇主題

在確定研究主題時,確保你的導師或者周圍的師兄師姐們對這個主題有足夠的經驗。
當然,你的個人興趣也很重要,畢竟你得待在自己挖的坑裏好長一段時間。
最後, 你得選擇自己擅長或擁有足夠專業知識的領域
如果能夠滿足這三個條件,你的博士生涯將非常香。
不過,選擇主題時,還需要考慮一些其它事項:
首先,擁有多少資源將決定你是否能夠跨過某些研究領域的門檻。這裏,我假設你的研究團隊很普通,沒有龐大的計算集羣或大量資金,是的,我的建議就是針對非大型科技公司的相當普通的博士生。但是,如果你的團隊很多金,坐擁成千上萬的TPU,當我沒說,當我不存在,訓練你的大型語言模型去吧。
好了,回到正題,有兩種基本方法可以選擇研究主題。
第一個方法是 選擇當前該領域最熱、最受關注的主題 ,沒錯,就是隨大流。目前而言的話,這不一定是一個壞主意,我覺得泡沫破裂的時候也還沒到,哈哈。
但是這種方式也有一些缺點。原因在於,在這樣的領域種,會充斥着大量論文,不管水不水,同時也存在着激烈的競爭,競爭的壓力不僅僅來自同行,還有來自大型公司的多金同行。但還有一個更重要的原因,就是這樣的領域遲早會衰落。
如果你今天選擇研究Transformer,那麼很可能會在這個坑裏掙扎三四年,而領域還在不斷向前發展。
那麼,如果不研究熱門主題,該咋辦?這就來到了另一種選擇,即小衆主題(niche topics),這也是我向大多數人推薦的主題。  

這類研究主題的優勢在於周圍沒有太多競爭 ,你實際上可以在這個領域可以成爲專家,並且無論做什麼都可以做到最好。目前有哪些小衆主題?比如bandits、優化、生物學啓發神經網絡、基於文本的博弈等等。
我是不說你就應該選擇這些主題,而是說在這些小型社區,你可以進行持續地產出,不受炒作的影響。
 
2

應對審稿

好了,接下來是,如何發表論文?
現在,如果我不得不用一句話總結好論文的風格,那就是“寫不能被拒絕的論文”,這可不像聽起來那麼簡單。機器學習中的評審過程極大地鼓勵了審稿人以儘可能快的速度,儘可能輕鬆的心情,來拒絕你的論文。



所以,我們要做的是, 不要給審稿人任何拒絕你的論文的理由。
撰寫論文的最簡單方法是按字面意義閱讀論文。在你的小衆領域內,收集文獻,閱讀,然後嘗試模仿他們的寫作風格,嘗試模仿他們做實驗的類型和方式,嘗試模仿他們爲其思想奠定理論基礎的方式。
你的目標是撰寫一篇審稿人不能輕易找茬的論文,審稿人是實現我們目標的最大障礙。
我就直說了, 應對論文評審是攻讀博士學位中最殘酷的經歷之一 。審稿人很討厭,他們總是沒有時間,他們總是沒有正確閱讀論文,他們總是誤解了,他們總是批評你沒有對一些小衆的數據集進行評估。我們總是被審稿人誤解。
我可以告訴你的是,不要因不好的評審而灰心,不要對個別評審太認真,只需將論文重新提交下一個會議即可。
因此,保持你的理智,不要太過個性化。有許多著名的論文在初次投稿時就被拒絕了,並不是因爲論文不好,而是因爲審稿人很爛。
當你不再是菜鳥,段位變得越來越高時,你可能會活成你自己討厭的人——審稿人。
 
3

成爲審稿人

在審別人論文的時候,你纔會發現,所有其他審稿人都糟透了,寫的什麼垃圾評審。好吧,你很可能禁不住誘惑也自甘墮落了。你在想,大家都審的那麼爛,我那麼努力幹啥子,特別是當你好好地審論文也不會獲得任何好處(除了一句謝謝)的時候。
當然,做一個好的審稿人真的非常非常困難。但是請努力,不僅是因爲你不想同流合污,而且 撰寫出色的評審也可以幫助你真正地深入研究論文,真正看到其他論文的弱點,並且使你成爲更好的作者、研究員和社區成員。
因此,爲了你自己和社區,即使沒有時間,即使其他人做的真的很爛,也請認真對待論文評審。
 
4

“認真”教學

讀博士的另一件煩人的事很可能是教學。而且,你很可能沒有什麼動力去做好教學。畢竟,學生是“煩人”的生物,你越快地擺脫他們,你就越早可以開始寫論文。
但是,我還是建議你認真對待教學,這不僅是因爲這個世界依賴於下一代研究人員,還要考慮到你所教的人也許有一天會成爲你的實驗室成員,你將從他們的優秀能力中受益。 因此,爲了你自己和學生,請認真對待教學。
因此,除了需要做的事情(例如複習和教學)之外,你整天還要幹什麼?
我的答案是:
處理手頭工作——撒尿——然後繼續處理手頭工作。
博士學位是頭等重要的大事,是需要長期付出精力的一項工作。
在博士期間,你將被誘惑去做各種各樣的事情。 這有一個閱讀小組、又有一個研討會、一會兒還有一個演講。
除非這些東西有特別的興趣或者他們對你有特定的幫助,否則這將會是消磨時間,並不是說你不應該去參加它們,只是要考慮到它們對你的論文主題有沒有什麼實質性的幫助。

5

參加會議

現在你已經撰寫了論文,並將其提交給同行評審。 ,你 中稿了,並且可以參加會議了。

會議本身、會議網站以及Twitter上的每個人都可能給你一種印象——人們發表有關他們的研究供其他人聆聽和學習。
可是不容忽視的一點是,會議的演講部分已經變得越來越無關緊要,尤其是現在這個時代,所有內容都已記錄並可以流式傳輸,你只需在舒適的沙發上以2倍速看一下這些東西,就可以確保不會丟失任何東西。
這些講座通常很簡短,而且它們的討論可能涉及至少六個月的研究。
參加會議最有趣的部分是那裏的人,而且有趣的談話往往發生在研討會、小組討論、tutorial中 ,試圖找到討論前沿研究的地方,而研討會正是這樣一個好地方,因爲很多研究通常是最近才進行的、尚未完成,你在這裏或許能收穫很多不錯的新idea,或者找到自己感興趣的人。
許多論文作者會面對面告訴你他們永遠不會在論文上寫下的東西,例如哪些實驗跑不通、研究中的問題、論文的缺點、以及很多的bug和踩坑經驗,在會場和人們聊天你會獲得很多知識。
但是,做到這一點, 你要保持開放大膽、張口說話、主動問好、走出第一步、積極地享受與人交流的過程。
我知道這對我們很多人來說都是很難的,但它確實有回報,它將使你的生活更加愉悅。
好吧,我接下來要談的是實習,如果你要去另一家大學的公司實習,那完全取決於你的偏好。

6

實習

在不同的地方進行實習通常會給你帶來不同的見解。
如果你在一家大公司實習,那可能是學術和產業環境的轉變,你將可以使用更多的研究資源,並且可以進行一些不同類型的研究, 最重要的是,你可以將會遇到不再是學者思維的一羣人 ,那將是非常寶貴的體驗。
一旦你深陷學術界一段時間,結識一羣只想打造出色產品的人羣就會變得耳目一新,並讓你真正瞭解到產品思維和目標導向。

7

合作

最後,我想談談合作的話題。如果你能找到一個對你有互補技能並且對同一領域感興趣的人,那麼一起工作並共同進行研究肯定會有所回報。
但是,僅當這些技能確實在同一領域能發揮作用時,才做這種事。與他人合作非常誘人,如果你能解決的話,對你有好處。但同樣,一定要專注於你的特定領域,並真正將協作視爲共同努力,以更快、更嚴格地完成研究,這是值得的。


8

後記

好的,所以我現在討論的方式,看起來像是博士學位令人厭煩且需要大量工作,而且你永遠都做不到任何有趣的事情。儘管這是一個方面,並且這肯定會發生在人們身上,尤其是如果他們想快速完成工作,那麼我敦促你也花一些時間來享受這段時間。
博士階段是一段美好的時光,你將結識很多有趣的人,學習很多有趣的主題和思想,能夠去很多有趣的地方。這些都是寶貴的體驗。
因此,我的建議是,如果可以的話,不要一直忙綠工作,花半年或更長時間放輕鬆一點,enjoy your time,做好本職研究工作的你隨時都可以找到工作的。
最後,我希望你從本文中至少學到了一些東西,祝福你在通往機器學習博士學位的道路上獲得成功。
Cheers !
視頻鏈接:
https://www.youtube.com/watch?v=rHQPBqMULXo&t=699s
 
    
    
    
也可以加一下老胡的微信
圍觀朋友圈~~~


推薦閱讀

(點擊標題可跳轉閱讀)

我愛線代,線代使我快樂

麻省理工學院計算機課程【中文版】

【清華大學王東老師】現代機器學習技術導論.pdf

機器學習中令你事半功倍的pipeline處理機制

機器學習避坑指南:訓練集/測試集分佈一致性檢查

機器學習深度研究:特徵選擇中幾個重要的統計學概念

老鐵,三連支持一下,好嗎?↓↓↓


本文分享自微信公衆號 - 機器學習算法與Python實戰(tjxj666)。
如有侵權,請聯繫 [email protected] 刪除。
本文參與“OSC源創計劃”,歡迎正在閱讀的你也加入,一起分享。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章