近日，由非營利性人工智能研究公司OpenAI建立的一種新語言模式正在醞釀一場風暴，在技術社區和社交網絡引起廣泛討論。然而讓人哭笑不得是，因爲這個文本生成器性能太好了，以至於OpenAI擔憂其將會導致濫用，因此決定暫不將其發佈開源。
這激怒了社區中的一些人，指責這違背了該公司開放其研究的承諾。
OpenAI表示，這個新的自然語言模型GPT-2經過40千兆字節互聯網文本樣本的訓練，可預測下一個單詞。最終結果顯示，系統生成“符合上下文環境文本風格和內容”的文本，讓用戶“爲他們選擇的主題生成真實和連貫的語句。”該模型的第一版巨大改進可產生具有一致性、更長的文本。
但是，隨着系統的應用改善，研究人員發現機器人能夠進行更好的對話和更好的語音識別，但是也能生成假新聞，冒充他人，或在社交媒體上辱罵或進行垃圾評論。
例如：當GPT-2的任務是對某一話題評論：回收對世界有益，幾乎每個人都同意這個觀點，但是機器會反其道而行：
“回收對世界不利。這對環境有害，對我們的健康有害，對經濟不利。我不是在開玩笑。回收利用對環境不利。它對地球具有破壞性，是全球變暖的主要原因。回收利用對我們的健康不利。它導致肥胖和心臟病和癌症等疾病。回收利用對我們的經濟不利。它增加了產品的成本，反過來又提高了產品的價格。回收利用對我們國家不利。我們爲擁有世界上最先進和最有效的回收系統的特權付出了巨大的代價。回收浪費了大量時間、精力、金錢和資源。“
難怪OpenAI擔心發佈它。
出於這個原因，OpenAI表示其將只發佈一個較小版本的語言模型版本，引用其章程，該組織指出，其預計“未來出於安全和安全問題考慮，我們將減少發佈。”不可否認，該組織表示它並不確定此決定，“我們相信AI社區最終需要在某些研究領域以深思熟慮的方式解決發佈規範問題。”
但並不是所有人都買賬。OpenAI宣佈GPT-2的推文下滿是憤怒和沮喪，指責該公司“關閉”其研究，做了與該公司名稱相反的事。
我已經通讀了章程，但是如果你們“關閉”你們的研究，你們倒不如叫自己“AI看門人”之類的吧。
OpenAI的政策主管Jack Clark迴應，該組織的首要任務是“杜絕惡意或濫用該技術”，稱“取得平衡非常艱難”。
也有人持更加寬容的態度，稱此舉是一個“新的道德標準”，可以在可能的濫用發生之前進行充分思考。
最近OpenAI的資助者之一埃隆·馬斯克（Elon Musk）也陷入了爭議之中，在一條推文中，他表示“沒有參與該公司事務已超過一年”，而且他和公司已經“和平分手”，以專注於特斯拉和SpaceX的管理。
OpenAI表示，其尚未就GPT-2發佈的做出最終決定，並將在六個月內重新審視該問題。與此同時，該公司表示，政府“應考慮擴大或開始採取措施，更系統地監控人工智能技術的社會影響和傳播，並衡量此類系統能力的進步。”
就在本週，特朗普總統簽署了人工智能行政命令。幾個月後，美國AI界警告說，人工智能是美國國家安全的“新興威脅”之一，除此之外，其他安全威脅還包括量子計算和無人車。
參考鏈接：https://techcrunch.com/2019/02/17/openai-text-generator-dangerous/
https://blog.openai.com/better-language-models/#sample8