[NLP筆記] 語言模型

語言模型

• XLNet
• Bert
• 谷歌的Transformer-XL（一種基於Transformer的模型，在語言建模方面勝過BERT）
• OpenAI的GPT-2模型（以其生成非常像人類的語言文字而聞名）GPT-2模型地址
• CMU的XLNet
• Facebook AI的RoBERTa和mBERT（多語言BERT）
• 百度的ERNIE 2.0
• HuggingFace的DistilBERT
• 谷歌和豐田的ALBERT

參考

1. 一文看盡2019全年AI技術突破 量子位