Huggingface出品！NLP論文研討會

本文首發於微信公衆號：NewBeeNLP，歡迎關注獲取更多幹貨資源。

提起Huggingface大家肯定非常熟悉了，開源的transformer庫備受好評，目前star已經有23.7K了，可以在All Models and checkpoints頁面搜索所有“開箱即用”的NLP模型。

但是可能很多人沒有注意到，前幾天他們又開源了每週內部論文研討會放在gayhub上，Awesome NLP Paper Discussions。有的同學可能陷於茫茫論文海找不到高質量的論文，有的同學可能忙於業務無法實時跟進社區發展，有的同學可能孤身奮戰找不到討論的小夥伴，我們藉此機會建立了Awesome NLP Reading Group，幫助大家更好地交流，感興趣的同學公衆號後臺回覆 nlp 進羣一起討論、獲取資料吧~

Awesome NLP Paper Discussions

我們來看看目前爲止Huggingface內部都有哪些優質討論。

第一期

• 日期：Feb 25, 2020
• 論文： Adaptively Sparse Transformers
• 作者： Gonçalo M. Correia, Vlad Niculae, André F.T. Martins
• 分享人： Sasha Rush
• 討論資料： Colab notebook
  

感受一下細節解讀+代碼的討論

第二期

• 日期：Mar 3, 2020
• 論文： REALM: Retrieval-Augmented Language Model Pre-Training
• 作者：Kelvin Guu, Kenton Lee, Zora Tung, Panupong Pasupat, Ming-Wei Chang
• 分享者：Joe Davison
• 討論資料：Write-up
  

第三期

• 日期：Mar 10, 2020
• 論文：Right for the Wrong Reasons: Diagnosing Syntactic Heuristics in Natural Language Inference
• 作者： R. Thomas McCoy, Ellie Pavlick, Tal Linzen
• 分享者：Victor Sanh
• 討論資料： Slides
  

後續分享計劃

• Mar 17, 2020

  • 論文：Representation Learning with Contrastive Predictive Coding
  • 作者： Aaron van den Oord, Yazhe Li, Oriol Vinyals
  • 分享者：Patrick von Platen

• Mar 24, 2020

  • 論文：Scaling Laws for Neural Language Models
  • 作者：Jared Kaplan, Sam McCandlish, Tom Henighan, Tom B. Brown, Benjamin Chess, Rewon Child, Scott Gray, Alec Radford, Jeffrey Wu, Dario Amodei
  • 分享者：Teven Le Scao

• Mar 31, 2020

  • 論文：Compositionality decomposed: how do neural networks generalise?
  • 作者：Dieuwke Hupkes, Verna Dankers, Mathijs Mul, Elia Bruni
  • 分享者：Thomas Wolf

這個分享應該會持久進行，爲了及時跟進，歡迎加入我們的討論組，關注NewBeeNLP公衆號，回覆"nlp"，獲取持續更新的資料和討論吧！截至目前上述所有資料已同步更新至交流羣。