【個人思考】2020-01-09筆記和思考

昨天在實驗室開完了知識計算組,2019年秋學期的最後一個大的組會。
上臺講解的主要有三人,大師兄xu han,帶我的學長yuan yao,以及另外一個博士生zhengyan zhang。這三人都非常的有意思。

帶我的yuan yao先上臺就用5分鐘時間講完了接下來的一個學期的主要工作,其中我的工作放在第三個。看來大家對我的工作還是挺認可的,覺得這個能夠work,我也要努力才行呀。不過yuan哥講的是在是太快了,讓我忍不住暗暗吐槽一句hhhhh.

張學長講的還是挺好的,主要做的是預訓練語言模型的,他之前參與的工作有GNN的綜述和對BERT模型的改進,寫的非常不錯,一年多多時間引用超過150次。此前在ICLR的論文研討會上也對bert-like model有不錯的見解,他指出了接下來的工作會主要放在模型的改進上,我覺得還是比較promising的。

韓師兄是最高屋建瓴的,從各個角度剖析了知識計算、知識獲取這個角度在接下來的一年內有的新的方向和新的問題角度,讓我受益匪淺。

三位師兄講完了之後,大家都在等老闆過來,老闆過來之後重新看了一下三位師兄的內容,覺得張師兄講的最差
原因讓我覺得非常的震驚:
不是說提出的方向和idea不能work,而是因爲其沒有從一個廣大的角度去全面的概括預訓練語言模型
張師兄雖然描述了在fine-tune和訓練時有很大的障礙,而這是他今後的努力方向之一。但是老闆指出:我覺得你肯定能夠做出來,你又不是不會發論文,而我們要做的工作要更加具有思考性。你需要從各種方面概括PLM面臨的問題,從全局角度去統籌今後的努力方向。像你這種idea,我們這裏本科生也能做,我們有這麼多本科生。像你這樣的高年級學生的工作,應該更加具有思考性纔對,你是去指導本科生的

"我們要保證自己的工作需要更加具有思考性,別人做到什麼程度如果別人也能想到的,說明這也沒那麼有意思,我們需要去做一些,問題容易想到但是idea不容易想到的,甚至說這個問題都不容易被人發覺,不容易被想到的,這樣的工作才更有影響力。我們今年發表了39篇論文,還沒有算上這一次的ACL投稿了19篇。太多了,太多了。明年不可以發這麼多文章,我們需要保證每一篇對自己有更大的突破,也對學術界有更大的貢獻"
我聽完很有感觸。我需要從更高的角度去思考問題了。
老闆說話非常客觀。他從不說自己的組是知識計算方面國內最強的(事實上很多人是覺得是這樣的。
“我們組是知識計算國內最大的組”
而從不說自己是最強的,
如果說在這樣的組裏面最大的好處是什麼,那麼就是:
“在這裏的idea如果做不出來,那麼在別的地方做出來的概率也不會高。所以你就放心去做吧,有這麼多的學長和老師。沒問題的”

發佈了1162 篇原創文章 · 獲贊 1239 · 訪問量 943萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章