【編者按：不知從何時開始，拿過一本新書，特別愛看的是序言和後記，尤其是一本科技方面的書，原因不外乎還是那些神乎其神（但很多並不完備）的數學公式們，有時常想：不用公式就能把話說清楚的書肯定不是耍“某某”吧！當朋友把馬庫斯的這本《如何創造可信的AI》剛寄給我，就發現沒有公式，所以推薦給大夥一讀！拿起書再仔細一翻，竟然也是批評當前人工智能科技的，而且還有理有據有節，更建議大家讀一下了，或許未來新的人工智能趨勢就隱藏於此吧！可惜的是序言沒有拿到！】
可信的AI，也就是基於推理、常識性價值和良好工程實踐的人工智能，無論是出現在10年之後還是百年之後，有朝一日若真能實現，定會掀起一場巨大的變革。
在過去的20年間，我們已經見證了重大的技術進步。這些進步主要是以從零學起的“白板”機器學習的形式，在大數據集的基礎之上，應用於語音識別、機器翻譯、圖像標註等領域。我們不認爲這一趨勢會停止發展。圖像和視頻標籤的技術水平將繼續進步；聊天機器人會變得更加優秀；機器人操縱和抓取物體的能力也將繼續提高。我們將看到越來越多的對社會有益的新穎應用，例如使用深度學習來跟蹤野生動物和預測餘震。當然，在我們所呼籲的AI重啓之路鋪展開來之前，在廣告、宣傳、虛假新聞以及監控和軍事應用等不那麼善意的領域，人工智能也會取得進展。
但最終，所有這些都不過是開胃小菜而已。若干年後回望歷史，真正的轉折點不會是2012年深度學習的重生，而是通過常識和推理上的突破，人工智能獲得對世界深刻理解的時刻。
這意味着什麼?沒有人知道，因爲誰都無法假裝自己有能力預測未來的所有分支。在1982年的電影《銀翼殺手》中，世界上到處都是先進的人工智能複製人，他們看起來和人類幾乎沒有什麼區別。然而在一個關鍵時刻，哈里森·福特（Harrion Ford）飾演的裏克·狄卡（Rick Deckard）在一個公用電話前停下來打了個電話。3在現實世界中，用手機取代付費電話要比構建人類級別的人工智能容易得多，但電影攝製組中沒有人預料到這個時代問題。在任何關於技術突飛猛進的預測中，無論是我們做出的還是別人做出的預測，都必然會存在一些非常明顯的偏差。
但是，我們至少能以事實和推理爲基礎，做出一些有根據的猜測。
首先，由深度理解所驅動的人工智能，將是首款可以像孩子一樣學習的人工智能，以輕鬆、強大而持續不斷的方式擴展對世界的認識。通常情況下，它只需要接觸一兩個關於新概念或新情況的例子，就可以創建出一個有效的模型。同時，這個產品也將是首款可以真正理解小說、電影、報紙故事和視頻的人工智能。具有深度理解能力的機器人，將能夠安全地在現實世界中四處移動，實際操作各種物體和物質，識別物品的用途，並與人建立舒適而自由的互動。
計算機只要能對這個世界和我們所說的內容產生理解，就擁有了無限的可能性。首先，搜索會變得更加精準便捷。許多困擾當前技術的問題，比如“目前誰在最高法院任職”“誰是1980年最高法院年齡最大的法官”“《哈利·波特》裏的魂器有哪些”，對機器來說就是小菜一碟。還有很多我們現在連做夢都不敢想的問題會得到完美解答，比如編劇可以對未來的搜索引擎說：“找一個短篇故事，其中講到某國領導人成爲另一個國家的特務，用於改編電影。”天文愛好者可以提問：“下一次木星的大紅斑會在什麼時間出現？”而答案則會考慮到當地天氣預報和天文情況。你可以告訴視頻遊戲，你希望自己的化身是一頭穿着扎染襯衫的犀牛，而不用從一堆預先設置的選項中進行選擇。你還可以讓電子閱讀器對你閱讀過的每一本書進行跟進，並根據不同的文學體裁和作者所在的大洲，對你花在每部作品上的閱讀時間進行排序。
與此同時，數字助理將能夠擁有與人類助理幾乎同樣的工作能力，而且更大衆更普惠，讓所有人都能用得起，而不僅僅是爲富人服務。想爲1000名員工策劃一次集體活動嗎？具備深度理解能力的數字助理，將會完成大部分的工作，既能搞清楚需要購買什麼物品，也能想明白需要給誰打電話，發提醒，將谷歌Duplex希望做到的事情囊括進來，也就是給別人打電話並進行互動交流，但不只是用預先設定的腳本來預約理髮師或餐廳座位，而是能夠執行規模龐大的定製化操作，過程中可能涉及數十位員工和各行各業的分包商，從主廚到攝影師全部包括在內。你的數字助理將兼任協調人和項目經理兩個職責，管理上百人日程表中的一部分內容，而不僅僅關注你自己這一份。
計算機也將變得更加容易使用，從此再也不需要仔細閱讀幫助菜單，也無須記住鍵盤快捷鍵。如果你想要所有的外語詞彙都變成斜體，就可以直接提要求，而不用自己一個字一個字地看一遍整篇文檔。想從40個不同的網頁上覆制40種不同的食譜，自動將所有的英制單位轉換爲公制單位，並將食譜中的所有原料添加量都按照做4人份的比例進行調整？你需要做的，就是直接把要求提出來，用英語也好，用其他你想用的語言也罷，而不用再去特意尋找一款擁有上述功能的應用程序。從本質上講，我們現在用電腦做的所有那些乏味無聊的事情，都可以自動完成，根本不用那麼麻煩。互聯網上充斥着有關“Chrome的煩惱”和“PowerPoint的煩惱”的網頁，這些問題的細節雖小，但十分重要，而企業軟件開發人員卻未能預見這些意外事件的發生。這些讓用戶大爲惱火的問題都將消失。隨着時間的推移，從中獲得的全新的自由，將像網絡搜索一樣徹底改變人們的生活。而其深遠的影響力，甚至會超越網絡搜索。
《星際迷航》的全息甲板也將成爲現實。想在基拉韋厄火山噴發時飛越上方鳥瞰全景嗎？想要陪伴佛羅多去末日火山嗎？只要提出要求就能做到。在《頭號玩家》（Ready Player One）的著作和電影中想象出來的令人炫目的虛擬現實世界，將成爲所有人都能體驗到的服務。我們已經知道如何讓圖像達到極致的逼真，而具有深度理解能力的人工智能，也將使豐富而複雜的類人角色成爲可能。就這一點而言，具備複雜心理活動的外星人也將成爲可能，他們的身體構造和思維方式與我們截然不同，而人工智能則可以在此基礎之上構思出這些外星人的合理選項。
與此同時，機器人管家也將變得實用，而且足夠值得信賴，可以讓人心無掛礙地放在家裏，它們會做飯、打掃、整理、購買日用物品，甚至還能更換燈泡和擦窗戶。而對於無人駕駛汽車來說，深度理解很可能也是令其擁有真正安全性的不二法寶。
隨着時間的推移，令機器擁有普通人對世界的理解能力的這些技術，可以進一步得到擴展，達到人類專家的理解能力，超越基本常識，發展到科學家或醫生所擁有的那種專業能力。
當這種理解能力成爲現實之後，也許再過幾十年，經過大量的努力，機器將能夠開始進行專家級的醫學診斷，分析法律案件和文件，教授複雜的科目，等等。當然，政治問題仍將存在，我們依然要想辦法說服醫院，讓管理者認爲更加優秀的人工智能從經濟角度來講是有意義的，而由機器發明出來的更加優質的能源，也需要人們真正願意去接受。但是，只要人工智能的水平足夠高，許多技術挑戰都將首次被攻克。
計算機編程也將最終實現自動化，任何人的發明創造能力，無論是創業還是發明某種藝術形式，都將比現在強大得多。建築業也將發生變化，因爲機器人將能從事木匠和電工等熟練工種；新房子的建築時間將會縮短，成本也會降低。幾乎所有髒活累活和危險工作，就算需要專業知識，也將實現自動化。救援機器人和消防機器人將會得到廣泛使用，出廠時就具備各種技能，從心肺復甦到水下救援無所不包。
藝術家、音樂家和各行各業的業餘愛好者，也將得到人工智能助手的加持，極大提升其所在領域的覆蓋面。想和機器人樂隊一起練習披頭士的曲子，或指揮由機器人組成的完美和諧的交響樂隊嗎？想和老婆一起與大威小威a的授權複製版一起來網球雙打嗎？沒問題。想要用樂高積木搭一座一比一的城堡，還有機器人在裏面比武嗎？想要在下次去參加火人節活動的時候，用無人機擺出巨石陣嗎？人工智能將幫助你完成其中的每一項計算任務，機器人將去做大部分的實際工作。各行各業的人們，都有能力去做他們以前從未想過的事情，每個人都可以作爲整個機器人助手團隊的創意總監。人們也會有更多的空閒時間，去讓人工智能和機器人來承擔日常生活中單調乏味的工作。
當然，整個行業的發展也不太可能齊頭並進。我們很可能會在某些領域，如定量科學的特定領域，率先達到專家水平的深度理解，而其他領域的人工智能仍然在爲達到兒童級水平而努力。完美的音樂助手很可能會比完美的人工智能律師助理的誕生要早很多年。
終極目標就是能夠自學成才，達到任何領域專家水平的機器。我們相信，這樣的機器早晚都會成爲現實。
最終，軟件將具備人類專家同等的靈活性與強大直覺，一旦將機器的強大計算能力和這樣的軟件結合起來，科學發現的速度也會大大加快。
到那一天，一臺先進的計算機就能做到一整個經過嚴格訓練的人類團隊所能做到的事情，甚至能做到人類無法做到的事情。舉例來說，我們無法在頭腦中記住成千上萬的分子之間的相互關係，更無法達到機器與生俱來的數學精準度。擁有如此高級的人工智能，我們就有可能在結合大量神經數據的基礎之上，利用複雜的因果推理，來搞清楚大腦究竟是如何運轉的，怎樣製造出能治癒精神障礙的藥物—這一領域30年來幾乎沒取得什麼進展，因爲如今我們對大腦的瞭解實在太少。我們還有理由認爲，擁有真正科學能力的人工智能，還可以幫我們設計出可用於農業和清潔能源領域的更加高效的技術。這些不可能很快實現，也不可能輕易實現，因爲人工智能實在太過艱深。但一切終將實現。
並不是說我們可以從此高枕無憂。往好處看，如果彼得·戴曼迪斯是正確的，那麼隨着自動化在各行各業的普及，物質將會極大豐富，從日用商品到電力，許多東西的價格也將越來越低。在最理想的情況下，人類會實現奧斯卡·王爾德所描繪的圖景：“自娛自樂，或享受有教養的閒暇……製作美麗的東西，閱讀美麗的文字，或僅僅是用欣賞和快樂的眼光去觀察這個世界，（用）機器……做所有必要而令人不快的工作。”
但現實一點來看，就業機會很可能會變得越來越稀缺，關於基本收入保障和收入再分配的大討論，很可能比現在更加劍拔弩張。就算經濟問題能得到解決，許多人也可能需要改變自身獲取自我價值感的方式，一旦大量非技術工種發展到自動化階段，人們需要從先前很大程度上對工作的依賴，轉變到從藝術和創意寫作等個人項目中尋找充實感的模式。當然，一定會有全新的工作機會，比如機器人維修，至少在一開始這項工作是很難得到自動化的，但我們不能假定新的職業將全部替代舊有職業。社會的結構將會發生很大的變化，人們的休閒時間越來越多，商品的價格越來越低，枯燥乏味的工作極大地減少，而就業機會也減少了許多，還可能會出現更大的收入不平等。我們有理由認爲，人工智能的認知革命將像工業革命一樣，點燃社會變革的燎原大火。有些變化是積極的，有些變化是消極的，而許多變化都是劇烈的。解決人工智能的問題並不是包治百病的萬靈藥，但我們認爲，只要我們能在發展人工智能的道路上時刻保持明智與謹慎的態度，人工智能在科學、醫學、環境和技術等領域所能做出的貢獻，會令全人類在整體上向積極的方向發展。
這是否意味着，我們的後代將生活在一個物質極大豐富的世界中，將幾乎所有的難題都交給機器來處理，而人類則是一副優哉遊哉的閒暇狀態，就像王爾德和戴曼迪斯所憧憬的那樣？會生活在一個可以將自我拷貝上傳到雲端的世界中，就像庫茲韋爾所說的那樣？在想象之中才能實現的醫學進步的帶動下，能以伍迪·艾倫更加傳統的方式實現真正的永生，也就是說永遠不會逝去？可以將我們的大腦與硅芯片融爲一體？“技術宅男的狂歡”可能就在明天，也可能還很遙遠，甚至永遠不會到來。我們無從得知。
公元前600年，當泰勒斯（Thales）開始研究“電”的時候，他知道自己發現了某種意義非凡的東西，但當時的條件還不可能預料到這東西的確切用途。他肯定想不到，有朝一日，電會引發社交網絡的發展，會孕育出智能手錶、維基百科這樣神奇的事物。由此看來，若想在當下預測出人工智能未來的發展走向，或是人工智能在千年之後，哪怕是500年之後對整個世界形成的影響，實在是夜郎自大。
我們所知道的，就是人工智能正在不斷髮展的過程之中，所以，我們最好儘自己最大的力量，確保接下來會發生的一切都是安全、可信、可靠的，並在我們的引導之下，讓人工智能儘可能地爲全人類提供幫助。
而朝這一目標前進的最佳路線，就是跳出大數據和深度學習這個框架，走向更具魯棒性的全新的人工智能—經過精心工程設計的，出廠就預裝價值觀、常識和對世界深度理解的人工智能。
書名：《如何創造可信的AI》(Rebooting AI：Building Artificial Intelligence We Can Trust)
作者：[美]蓋瑞·馬庫斯(Gary Marcus ) 歐內斯特·戴維斯（Ernest Davis）
出版社：湛廬文化/浙江教育出版社
[內容簡介]
l 當下的AI存在哪些風險？真的有可信的AI嗎？
理想的AI與現實的AI之間究竟存在哪些差距？
如何構建人類和AI之間的信任？
關於人工智能的炒作總是甚囂塵上，但要得到真正可信的AI，卻遠比想象的要複雜得多，超級智能的時代還遠沒有到來。創造真正可信的AI需要賦予機器常識和深度理解，而不是簡單地統計分析數據。本書勾勒了未來人工智能發展的最佳路線圖，對當前人工智能的現狀進行了清晰且客觀的評估。
l 作者蓋瑞·馬庫斯是人工智能領域的專家，同時還是心理學和神經科學教授，在計算機科學、認知科學、語言學、人工智能等領域都練就了相當深厚的學術功底，並敢於挑戰學術界的主流觀點。當整個人工智能學術界都在過分樂觀地高歌猛進時，他不斷撰文和發表演講來指出以深度學習爲代表的當下AI的弊端和侷限性，《如何創造可信的AI》這本書正是馬庫斯對他關於人工智能觀點的最佳總結。
l 蓋瑞·馬庫斯和歐內斯特·戴維斯從深度學習算法固有的缺陷出發，闡述了當下 AI 技術發展的桎梏，對當前 AI 的場景應用和研究範式中的問題進行了分析，他指出AI真正的問題在於信任，常識才是深度理解的關鍵。最終從認知科學中提煉出了11條對人工智能發展方面的啓示，以通用人工智能爲發展目標，給出了未來 AI 技術的一種發展方向。
[目錄]
第1章 AI該往何處走
真的有可信的AI嗎
狹義 AI 與廣義 AI
理想與現實之間的鴻溝
如何跨越 AI 鴻溝
第2章當下AI的9個風險
機器人有暴力傾向嗎
機器也會犯錯
當下AI的9個風險
第3章深度學習的好與壞
人工智能 > 機器學習 > 深度學習
什麼是深度學習
深度學習的三個核心問題
深度學習是一個“美好”的悲劇
第4章 計算機若真有那麼聰明，爲什麼還不會閱讀
Talk to Books 無法回答一切問題
人是怎樣閱讀的
搜索引擎和語音虛擬助手的困惑
計算機不會閱讀的三大原因
常識很重要
第5章 哪裏有真正的機器人管家
從掃地機器人到機器人管家
機器人管家必備的四個能力
認知模型和深度理解纔是關鍵
第6章 從認知科學中獲得的 11 個啓示
從認知科學中獲得的 11 個啓示
爲機器賦予常識
第7章 常識，實現深度理解的關鍵
建立常識庫的三種方法
知識表徵
通用人工智能應具備的常識
推理能力
常識，深度理解的關鍵
第8章 創造可信的AI
優秀的工程實踐
用深度理解取代深度學習
賦予機器道德價值觀
重啓 AI
後記
致謝