來源: AINLPer 微信公衆號（點擊瞭解一下吧）
編輯: ShuYini
校稿: ShuYini
時間: 2020-02-27
引言： 下面是作者整理的關於自然語言生成（NLG）相關的論文文章，能找到源碼的作者也直接貼出來了，如果你對NLG感興趣或者也在找一些相關的文章，希望能夠幫助你~~
如果你一篇篇的論文下載不方便，你也可以關注 AINLPer 回覆：NLG001 進行打包下載。
TILE: Reinforcement Learning Based Graph-to-Sequence Model for Natural Question Generation
Author: Yu Chen, Lingfei Wu, Mohammed J. Zaki
Paper:https://openreview.net/pdf?id=HygnDhEtvr
Code: https://github.com/hugochan/RL-based-Graph2Seq-for-NQG
論文簡述： 本文提出了一種基於增強學習(RL)的QG圖序列(Graph2Seq)模型。該模型由一個帶有雙向門控圖神經網絡編碼器的Graph2Seq生成器和一個混合評估器組成，該混合評估器將交叉熵和RL損耗結合起來，以確保生成的文本在語法和語義上都是有效的。
TILE: Data-dependent Gaussian Prior Objective for Language Generation
Author: Zuchao Li, Rui Wang, Kehai Chen, Masso Utiyama, Eiichiro Sumita, Zhuosheng Zhang, Hai Zhao
Paper:https://openreview.net/pdf?id=S1efxTVYDr
Code:https://drive.google.com/file/d/1q8PqhF9eOLOHOcOCGVKXtA_OlP6qq2mn
論文簡述： 語言生成問題，最大似然估計（MLE）被普遍採用，但是MLE忽略了負多樣性，所以本文通過引入一個額外的Kullback-Leibler散度項來增加MLE損失，這個散度項是通過比較依賴於數據的高斯先驗和詳細的訓練預測得到的。
TILE: code2seq: Generating Sequences from Structured Representations of Code
Author: Uri Alon, Shaked Brody, Omer Levy, Eran Yahav.
Paper:https://openreview.net/pdf?id=H1gKYo09tX
Code: None
論文簡述： 本文提出了code2seq模型，一種利用編程語言的語法結構來更好地編碼源代碼的替代方法。模型將代碼片段表示爲其抽象語法樹(AST)中的一組組合路徑，並在解碼時注意選擇相關路徑。
TILE: Execution-Guided Neural Program Synthesis
Author: Xinyun Chen, Chang Liu, Dawn Song.
Paper:https://openreview.net/pdf?id=H1gfOiAqYm
Code: None
論文簡述： 大多數現有的神經程序合成方法都採用編碼器-解碼器結構，但是現有方法的主要缺點是語義信息沒有得到充分利用。爲此本文提出了兩種簡單而有原則的技術來更好地利用語義信息，這兩種技術是執行引導合成和合成器集成。這些技術足夠通用，可以與任何現有的編碼器-解碼器風格的神經程序合成器相結合。
TILE: Representation Degeneration Problem in Training Natural Language Generation Models
Author: Jun Gao, Di He, Xu Tan, Tao Qin, Liwei Wang, Tieyan Liu.
Paper:https://openreview.net/pdf?id=SkEYojRqtm
Code: None
論文簡述： 研究了基於神經網絡的自然語言生成任務模型訓練中出現的表示退化問題，提出了一種新的正則化方法。語言建模和機器翻譯的實驗表明，該方法能有效地緩解表示退化問題，並獲得比基線算法更好的性能。
TILE: MaskGAN: Better Text Generation via Filling in the ___
Author: William Fedus, Ian Goodfellow, Andrew M. Dai.
Paper:https://openreview.net/pdf?id=ByOExmWAb
Code: None
論文簡述： 介紹了一個有條件的GAN，它可以根據周圍的環境條件來填充缺失的文本。我們從定性和定量兩方面證明，與最大似然訓練模型相比，這種方法可以生成更真實的文本樣本。
TILE: Leveraging Grammar and Reinforcement Learning for Neural Program Synthesis.
Author: Rudy Bunel, Matthew Hausknecht, Jacob Devlin, Rishabh Singh, Pushmeet Kohli.
Paper:https://openreview.net/pdf?id=H1Xw62kRZ
Code: None
論文簡述： 程序合成的任務是自動生成符合規範的程序。本文呢在監督模型上執行強化學習，目標是顯式地最大化生成語義正確的程序的可能性。然後我們引入了一個訓練過程，它可以直接最大化生成滿足規範的語法正確的程序的概率。
TILE: Syntax-Directed Variational Autoencoder for Structured Data.
Author: Hanjun Dai, Yingtao Tian, Bo Dai, Steven Skiena, Le Song.
Paper:https://openreview.net/pdf?id=SyqShMZRb
Code: None
論文簡述： 如何生成語法上和語義上都正確的數據在很大程度上是尚未解決的問題。在編譯器理論的啓發下，通過引入隨機惰性屬性，提出了一種新的語法導向變分自動編碼器（SD-VAE）。該方法將離線的SDT檢測轉化爲實時生成的指導，用於約束解碼器。
TILE: Emergent Translation in Multi-Agent Communication.
Author: Jason Lee, Kyunghyun Cho, Jason Weston, Douwe Kiela.
Paper:https://openreview.net/pdf?id=H1vEXaxA-
Code: None
論文簡述： 本文提出的翻譯模型通過將源語言和目標語言置於一個共享的視覺模式（visual modality）中來實現這一點，並且在單詞級和句子級的翻譯任務中都優於幾個基線。
TILE: Generating Wikipedia by Summarizing Long Sequences.
Author: Peter J. Liu, Mohammad Saleh, Etienne Pot, Ben Goodrich, Ryan Sepassi, Lukasz Kaiser, Noam Shazeer.
Paper:https://openreview.net/pdf?id=Hyg0vbWC-
Code: None
論文簡述： 【文章生成】本文證明了生成英文維基百科文章可以看作是源文檔的多文檔摘要。本文使用提取摘要來粗略地識別突出信息，並使用神經抽象模型來生成文章。
Attention
更多自然語言處理相關知識，還請關注 AINLPer公衆號，極品乾貨即刻送達。