OpenAI創造出寫作用AI 編寫出能信以爲真的假新聞

據彭博社報導,馬斯克倡導成立的AI研究機構OpenAI週四展示一款軟件,只需要提供軟件一些訊息,它就能寫出逼真的假新聞。OpenAI公佈了軟件編寫新聞的過程。研究人員爲軟件提供如下訊息:「一節裝載受控核材料的火車車廂今天在Cincinnati被盜,下落不明。」以此作爲基礎,軟件編寫出由7個段落組成的新聞,軟件還引述政府官員的談話,只不過這些訊息全是假的。
OpenAI創造出寫作用AI 編寫出能信以爲真的假新聞
紐約大學計算機科學家山姆‧鮑曼(Sam Bowman)認爲:「軟件根據提示產生的文本相當驚人,從質量上講,它所做的事比之前我們看到的複雜很多。」假新聞引起人們的擔憂,OpenAI對此心知肚明,OpenAI政策主管傑克‧克拉克(Jack Clark)說:「它可以產生連貫但不準確的假訊息,其目的並不是很好。」正因如此,OpenAI不會披露或者發佈軟件的複雜版本。它只是一個工具,讓政策制定者、記者、作家、藝術家用算法做實驗,看看能編寫什麼出文本訊息,或者能否做其它事情。目前假訊息正在蔓延,威脅全球科技產業,而軟件能夠編寫逼真的虛假新聞不是一個好消息。歐洲監管機關已經向科技企業發出警告,如果科技公司不採取強有力措施,防止產品影響選民意願,它們就會採取行動,自2016年美國大選以來,社羣一直在努力,希望控制假訊息。克拉克和鮑曼都認爲,系統雖然很強大,但其能力沒有強到可以馬上帶來威脅。克拉克說:「這不是一項馬上能投入使用的技術,這是好事。」

OpenAI的工具是爲了所謂的「語言建模」任務創造的,它要根據所有之前的單詞預測接下來的文本會是怎樣的,有點類似於我們在手機上寫郵件時自動補充文本訊息。它還可以用來執行翻譯、開放式問答任務。OpenAI研究人員傑夫‧吳(Jeff Wu)舉例說,我們也許可以用工具幫助作家尋找創意或者產生對話。又例如,也許可以用工具檢查語法錯誤,查看軟件程序代碼是否有漏洞。優化軟件之後,未來也許還能爲企業或者政府決策者提煉總結性文字。在過去一年裏,研究人員在語言處理方面取得巨大進步。去年11月,網絡大廠開發出一個強大的算法BERT,它可以理解並回答問題。早些時候,艾倫人工智能研究所也在自然語言方面取得突破,開發出一種名叫Elmo的算法。鮑曼認爲,BERT和Elmo可以說是過去5年該領域最重大的突破,相比來說,雖然OpenAI算法也很重要,但是革命性沒有BERT那麼強。馬斯克是OpenAI的聯合創始人,不過去年他已經退出董事會。內文來源至:http://www.cafes.org.tw/info.asp

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章