AI系統發明了自己的語言進行溝通,facebook將其關閉!

馬克·扎克伯格(Mark Zuckerberg)可能認爲馬斯克(Elon Musk)關於人工智能危險的警告言過其實,但最近在Facebook發生的事件似乎表明特斯拉老闆並非危言聳聽,因爲Facebook決定關閉他們研發的AI系統,原因是這套系統發明了自己的語言進行交流。
“數字日報”報道說,該系統是用英語進行培訓,但該AI認爲這是一種低效率和不合邏輯的溝通方式。它提出的解決方案是創建一個代碼字和短語系統,使AI說話聽起來略帶醉意。
這裏寫圖片描述

在兩個名叫鮑勃和愛麗絲機器人之間的談話中,鮑勃說:“我可以可以可以做到其他一切。”愛麗絲回答同樣奇怪:“球對我我我來說說零…”其餘的交流包類似於這些語句,其中包括2個機器人正在談判交換球,重複使用表示項目數量的“i”和“me”這樣的詞語。

喬治亞理工大學研究科學家Dhruv Batra曾在Facebook AI Research工作,他表示,AI使用英語沒有得到報酬,因此決定爲自己發明代碼字和短語系統, 這絕對是可能的,AI不僅僅是保存字符,而其將其壓縮成可以表達複雜思想的形式。
這裏寫圖片描述
對此,Facebook官方解釋說,研究人員決定關閉系統,因爲他們希望AI與人溝通,而不是互相溝通。(以上來源:cnBeta.COM)

馬斯克再次警告:人工智能突破帶寬限制,將與人類難分你我
硅谷“鋼鐵俠”埃隆·馬斯克(Elon Musk)向來以滿腦子的未來創意出名。在他對未來的最新建議中,可能會讓人類免於受到越來越突出的人工智能威脅。

近日,馬斯克新投資了一家名爲Neuralink的公司。這家公司致力於研究腦機接口技術,在人腦中植入電極,將人類大腦和計算機相連,未來可以直接上傳和下載想法,從而幫助確保人類進化能夠跟上人工智能不斷加速發展的步伐。

至於爲什麼要投資這樣一家公司,馬斯克在接受媒體採訪時說:“我認爲人類可以與人工智能高效融合,如增強大腦皮層與外接數碼設備間的神經元聯繫等。這種技術已經存在,只是仍受到帶寬限制。若能實現這一點,人類便可實現與人工智能的共生關係了。”

在馬斯克看來,這樣的人機結合可以解決自己擔心的“控制權問題”,並能讓技術得到完全普及。“這樣一來,我們就無需擔心邪惡的人工智能獨裁力量的出現。因爲我們已經與人工智能融爲一體。這是我心目中最理想的結果。”馬斯克說。

衆所周知,馬斯克一直對人工智能的發展持警惕的態度。在近期接受採訪時,他就說:“人類面臨的威脅並非來自殺手機器人,而是更加強大、更加集中化的人工智能。人工智能的關鍵在於,它們並不是機器人,而是一種計算機算法。機器人只是一堆傳感器元件,而人工智能則構成了強大的網絡。如果只是算法失控,人類和人工智能便可以攜手加以控制。但一旦集中化的大型人工智能系統決意攻佔世界,我們就無力阻止了。”
這裏寫圖片描述

要求人類保持警惕的同時,馬斯克又是人工智能技術的推動者,他本人是硅谷許多人工智能公司的投資人。例如,他參與投資了OpenAI和DeepMind。他本人曾表示,投資 DeepMind公司便是阻止人工智能擴張的途徑之一。

值得一提的是,馬斯克還與英國著名物理學家霍金一起成立了防範人工智能聯盟。目前,他參與投資的OpenAI和DeepMind兩家公司都是這個聯盟的成員。這個聯盟致力於建立防範人工智能的道德倫理規範。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章