也許實現真正完全的人工智能的唯一方法，是向人工智能注入人工智障元素，迄今爲止的人工智能還遠未達到人類水平；因此，我們只要和人工智障保持距離，或輕視其應有的作用，我們將永遠無法實現完全人工智能的“極樂世界”，在這樣的“極樂世界”里人工智能將和人類一樣聰明。如果我們不去考慮人工智障元素，我們可能會阻礙自己到達人工智能的巔峯。
序 言
人類同時擁有智慧與“愚蠢”的行爲，自動駕駛汽車是不是也應該具備同樣的兩種行爲模式呢？
當你聽到某人說另外一個人很有智慧時，你很可能會認爲這是一種表揚，表揚那個人多麼機靈或者聰明。
相反的，如果某人被貼上了“愚蠢”的標籤，人們可能就會條件反射性地認爲這個人應該不太聰明。通俗來說，對“愚蠢”的常用定義是，愚蠢表示缺少某種智慧。
這種定義帶來了一種奇怪的現象。
假設我們有這麼一個桶子，裏面裝滿了智慧。我們假裝智慧是某種有形的東西，我們可以把智慧倒進桶子裏，也可以把智慧從桶子裏倒出來，假設我們手邊正好有這麼一個桶子。
如果我們把桶子裏的智慧都倒在地上，桶子裏還會剩下什麼呢？
一個答案是，這個桶子現在完全空了，桶子裏什麼也沒有剩下。這個桶子變得空空如也，裏面什麼也沒有。
另一個答案是，這個把智慧都倒出來了的桶子裏剩下的是愚蠢。換句話說，一旦你移除了所謂的智慧，那麼你剩下的就是愚蠢了。
我意識到這看起來是個非常深奧的討論，但是，過一會兒，你就會發現許多重要的事情都在這一點上存在着相當大的分歧，像人工智能這樣的領域的發展和崛起尤其如此。
請思考下面這些重要的問題：
- 這世上可以只有智慧，沒有愚蠢嗎，或者更切合實際地說，當這世上存在智慧時，某種愚蠢也是必定存在於世的嗎？
有人斷言說，智慧和愚蠢就好比是禪宗裏的陰和陽。
從這個角度看，除非你有一把尺子來衡量愚蠢，否則，你是無法理解智慧的本質的。
據說，隨着時間的推移，人類變得更具智慧了，於是，人類的愚蠢程度也降低了。你可能會認爲，智慧和愚蠢是一個零和遊戲，也就是說，當你的智慧水平提高時，你同時會降低你的的愚蠢水平（相似的，如果你的愚蠢程度提高了，這就意味着你的智慧水平降低了）。
- 人類可以達到100%的智慧，以及0%的愚蠢嗎，或者說，我們註定就會帶有某種程度的愚蠢嗎，不管我們有多麼努力想要變得完全充滿智慧，最終也是做不到的嗎？
回到上面那個桶子的比喻，一些人會說，一個人絕不可能是隻具有智慧，而沒有任何愚蠢成分。在那個桶子裏，總會有某種數量的愚蠢成分存在。
如果你很聰明並且足夠努力，你可能降低你的愚蠢程度，但不管怎樣，在那個桶子裏，還是會有一定數量的愚蠢成分存在，儘管這個桶子裏面的愚蠢成分可能處於某種最小數量的狀態。
- 愚蠢對智慧會起到幫助作用嗎，還是會起到傷害作用？
你可能傾向於認爲任何愚蠢都是不好的，於是，我們就必須致力於控制住“愚蠢”，或者避免愚蠢的出現。
但是我們需要問的是，簡單地把愚蠢劃分到“壞”的類別，而把智慧劃分到“好”的類別，是否會讓我們遺漏某些更爲複雜的東西。你可能會爭辯說，有時候，適當的愚蠢可能會提供更多的智慧。
當我們還是孩子時，想象一下，你愚蠢地絆到了自己的腳，在經歷了這樣的事情後，你就會意識到是因爲你沒有小心地擡起自己的腳，所以才絆倒。從今以後，你就會更加註意走路的方式，因此在走路這件事上也就變得更有智慧。可能在你今後的生活中，比如在很窄的馬路牙子上走路時，你會盡量避免自己從馬路牙子上摔下來，由於之前早期生活的“愚蠢”經歷，這種“愚蠢”已經成爲了你智慧的一部分。
當然，愚蠢也會讓我們陷入麻煩。
儘管你通過愚蠢的經歷學會了小心走路，某天，你決定在大峽谷懸崖邊上昂首闊步地走路。當你這樣做時，突然，你從大峽谷掉了下去，墜入了深淵。
像這樣在懸崖邊上走路是明智之舉嗎？
當然不是。
所以，我們可能需要注意一下，愚蠢可能是朋友，也可能是敵人，在任何環境下，在任何時刻，決定其是敵是友的正是智慧。
你可以想象一下在智慧和愚蠢之間有一場永恆的鬥爭。
從另一個方面講，你也可以把智慧和愚蠢想象成一對小夥伴，他們互相促進，於是，他們就不像是一場爭鬥，而像是一場微妙的舞蹈，又像是某種形式的角逐，（有時候）其中一方會佔據上風，有時候其中一方能夠調和另一方，甚至是幫助另一方。
以上的序言爲討論一些人們越來越關注的問題提供了基礎，也就是人工智能的角色，還有“人工智障”的角色。
認真考慮人工智障
我們每天都可以聽到人們說起，我們的生活如何通過人工智能發生了變化。
人工智能正被注入我們的智能手機、冰箱、汽車等物件。
如果我們想要把人工智能應用於我們使用的東西上，那我們就應該思考一下，我們是否需要考慮事物的另一面，特別地，是否需要認識到人工智障？
大部分人聽到或者看到“人工智障”這個詞都會竊笑，他們一定認爲這是人工智能圈內人士的某種笑話，來指代此類事情。
不可否認，“人爲”（Artificial）和“愚蠢”（Stupidity）這兩個詞放在一起似乎本身就很愚蠢。
但是，回到之前討論的人類同時具有智慧和愚蠢這兩種屬性的話題，你可以重塑你的觀點，然後你可能會看到，只要你討論到人類智慧時，你不可避免地會找到某個角度討論到人類的愚蠢。
有些人認爲，我們應改用另一種方式來表達“人工智障”，從而減少這種竊笑的情況。人們提出來的其他短語包括“人工非智能”（Artificial Unintelligence），“人造的人性”（Artificial Humanity），“人爲沉默”（Artificial Dumbness）等，但至今還沒有一個詞被大衆所接受。
請和我一起忍受並接受這個詞，即“人工智障”，同時請懷着這樣的信念：討論“人工智障”並不傻。
事實上，你可以說，不討論“人工智障”是種愚蠢的做法，因爲你不願意或者說不能接受愚蠢存在於我們的真實世界這樣的事實，於是，在計算機系統構建的人工世界裏，我們雖然想創造人工智能，但卻會忽略或者看不到人工智能這個事物的另一面。
簡而言之，一些人說，真正的人工智能需要把今天我們所認爲的“智慧”或者說人工智能好的一面，與“人工智障”（人工智能的所有缺點）結合起來，儘管這種結合需要以一種智慧的方式來實現。
那現在就讓我們來處理這種直接的膝跳反應（本能反應），因爲大多數人對這樣的概念都具有本能反應。處理的方法就是消除以下觀念：通過將人工智障引入人工智能，你就會從本質上、不可逆轉地引入愚蠢，也因此會讓人工智能變得愚蠢。
當然，如果你通過愚蠢的方式引入愚蠢的元素，那你就會有很大概率破壞人工智能好的一面，從而就讓人工智能真的變得愚蠢了。
另一方面，在認識到人類如何操作的情況下，如果經過了深思熟慮之後再引入愚蠢元素，最終這還會幫助到人工智能（想想上面說的在小時候絆到自己腳的那個故事）的發展。
這樣的觀點可能會讓你感覺不適應。
也許實現真正完全的人工智能的唯一方法，是向人工智能注入人工智障元素，迄今爲止的人工智能還遠未達到人類水平；因此，我們只要和人工智障保持距離，或輕視其應有的作用，我們將永遠無法實現完全人工智能的極樂世界，在這樣的極樂世界里人工智能將和人類一樣聰明。
如果我們不去考慮人工智障元素，我們可能會阻礙自己到達人工智能的巔峯。
這真是一記重拳，而且反直覺，它常常讓人們止步不前。
最近逐漸有跡象表明，對愚蠢元素（或者任何能表達同樣意思的短語）的揭示和利用，可能是相當重要而且是有意義的。
在最近由加州伯克利分校的Simons計算理論研究所贊助的一場演講中，我與來自MIT的Andrew Lo教授進行了交流，我們討論了教授所主張的觀點，就是恰當地將人工智障引入金融模型中，以幫助金融模型更好地進化，教授做到了這點，並且意識到了我們需要恰當地識別人類的弱點，並且在蓬勃發展的金融科技領域中限制這些弱點帶來的影響。
他與其他人合著的書籍《華爾街上的非隨機漫步》（A Non-Random Walk Down Wall Street）中優雅地探討了人類的行爲是怎樣由理性部分和非理性部分組成的，由此創造了他的理論，即“適應性市場假說”（Adaptive Markets Hypothesis）。他富有見解性的方法超越了現有金融交易市場的做法和最佳操作的主流邊界。
還有其他領域或者應用場景能體現出人工智障的用武之地的嗎？
是的，有。
我斷言，其中的一個場景，就是在真正的自動駕駛汽車問世時加入人工智障元素。
震驚嗎？
也許吧。
讓我們探尋其中的奧祕吧。
探尋人工智障，以從中受益
當談到真正的自動駕駛汽車時，我關注的是用於衡量自動駕駛汽車標準等級中的第4級和第5級這兩個標準級別。這些是配備了人工智能系統的自動駕駛汽車，不需要也沒有規定說要給它們配備一位人類駕駛員。
在自動駕駛汽車上，人工智能系統會獲得所有駕駛操作的掌控權，任何/所有坐在車裏的人員都被認爲是乘客，而非駕駛員。
在討論人工智障這個話題時，有必要快速回顧一下這個術語是從何而來的。
20世紀50年代，著名的數學家和計算機科學先驅人物Alan Turing（艾倫·圖靈）提出了著名的人工智能圖靈測試。
這個測試簡單地說，就是把你置身於這樣一個場景中，即你可以與裝載了人工智能的計算機系統和一位人類參與者同時獨立交互，在置身於該場景之前，沒有人告訴你誰是人工智能計算機系統，誰是人類參與者（我們假設這兩個參與者都是視覺不可見的），你可以向這兩個參與者提問，最後你需要判斷出誰是人工智能計算機系統，誰是人類參與者。
如果你無法區分這兩個參與者，那我們就可以說這樣的人工智能系統通過了圖靈測試，因爲它展示了和人類一樣的智慧。從這個意義上講，人們無法將人工智能計算機系統與人類區分開，因此就可以在智能交互方面，將兩者視爲等同的。
這個邏輯有一些漏洞，我在這個鏈接裏提供了詳細的分析。在任何情況下，圖靈測試都被廣泛應用，作爲衡量真正人工智能是否會實現、何時會實現的一個晴雨表。
最初的圖靈測試有一個不爲人知的小插曲。
在圖靈測試中，一種投機取巧的提問方式是，你可能會耍些小聰明，讓兩個參與者計算圓周率的千位數。
據推測，人工智能系統將在一眨眼間就告訴你正確答案，而且做得非常準確。而人類參與者要得到這個答案將是非常吃力的，人類參與者會用鉛筆在紙上進行繁重枯燥的計算，最終也不一定會得到正確答案。
圖靈意識到了這一點，也承認通過問這樣的問題，會暴露人工智能系統的身份。
於是，圖靈添加了一個步驟，有些人認爲這個步驟是打開了潘多拉的魔盒，並且他建議人工智能系統在回答算數問題時應避免給出正確答案。
簡而言之，人工智能系統可以表現地像人類一樣回答問題，以此來愚弄提問者，這包括在答案中引入錯誤，或者像人類手動計算一樣花費同樣的時長來回答這樣的問題。
從20世紀90年代開始，人們發起了一種類似於圖靈測試的競賽，並提供適當的現金獎勵，這個競賽被稱之爲Loebner大獎賽。這個競賽中的人工智能系統通常會被特意引入一些人類會犯的錯誤，來幫助愚弄提問者，好讓他們相信這個人工智能系統就是人類玩家。這個競賽是有爭議的，但我不打算在這裏討論其中的細節。1991年，《經濟學人》刊登了關於這個競賽的一篇文章，現在這篇文章已成爲一篇經典之作。
請再次注意，這裏又有些諷刺了，我們把愚蠢元素引入進來，反而是想展示某種智慧。
這節簡短的歷史課爲接下來的討論提供了方便的起點。
讓我們把人工智障這個話題歸結爲兩個主要方面或者說定義：
- 人工智障是有目的的將類似人類的愚蠢行爲整合到人工智能系統中，這樣做是爲了讓人工智能系統看起來更像人類，這樣做不是爲了改進人工智能系統本身，而是爲了塑造出人類對人工智能系統看起來是智能的看法。
- 人工智障是對人類無數小缺點的承認，如果對這種結合管理得當，那麼在人工智能中潛在地包含這樣的愚蠢行爲或者和人工智能並行存在，也許能起到改進人工智能系統的作用。
關於第一個定義，我想澄清的一個常見的不當說法，就是人們通常認爲計算機會有意地錯誤計算某些東西，這種想法是不大正確的。
有些人對此表示恐懼和對計算機計算方式的鄙夷，他們認爲第一個定義可能包含某種暗示，即計算機將故意尋求錯誤計算的方法，比如計算圓周率，計算機會用一種不精確地方式進行計算。
這並不是第一個定義想表達的含義。
對於計算圓周率，可能是這樣的情況，計算機可能會先正確地計算出圓周率千位數，然後選擇改變其中幾個數字，並記錄下這種改變，這都會在一眨眼的功夫中發生，然後計算機會等待一段時間後再展示結果，這段等待的時間將會和人類手動計算的時間同樣長。
通過這個方式，計算機內部是有一個正確答案的，它只是展示出來一個看似有錯誤的答案。
這個方式，對於那些希望通過計算機得到正確計算報告的人來說當然是件壞事，但請注意，這和計算機實際過程中計算出錯絕對不是一回事。
關於這些細微差別還有很多要說的，但是現在我們還是繼續往前討論。
以上兩個關於人工智障的定義都可以應用於真正的自動駕駛汽車。
雖然引入人工智障元素會帶來一定程度的焦慮，但是這值得我們對一些問題進行思考。
人工智障和真正的自動駕駛汽車
現如今，在我們的公路上試行的自動駕駛汽車，因其獨特的駕駛技術得到了一些比較模糊的名聲。總地說來，當下的自動駕駛汽車就好像是一位十幾歲的新手駕駛員，對駕駛任務有些膽怯和猶豫。
舉例來說，當你遇到一輛自動駕駛汽車時，你將發現它通常會和前面的車輛保持一段很長的安全距離，這是自動駕駛汽車在試圖遵守汽車間距經驗法則，人們通常在第一次學習駕駛時會學到這個法則。
人類駕駛員通常不會關心汽車安全區域，也不關心是否比其他車快了很多，人類駕駛員會根據自己對危險的判斷而決定怎樣做。
以下是另一個駕駛習慣的例子。
自動駕駛汽車遇到停車標誌時，它會完全停下來，它會等到道路暢通了才小心翼翼地繼續向前行駛。我不知道你會怎樣做，但是我可以說下我會怎樣做，沒有人看到停車標誌時會完全停下來，現在通常的做法是踩着剎車向前停停走走，走走停停這樣。
你可以說，人類的駕駛方式有些魯莽，也有些愚蠢。
如果和前車不保持足夠的安全距離，你就會增加追尾的風險。如果在停車標誌前不完全停下來，你就會增加撞到另一輛車或者撞到行人的風險。
如果以圖靈測試的方式來辨別是否爲自動駕駛汽車，你可以站在人行道上，看着從你身邊駛過的車輛，通過觀察這些車輛的行駛行爲，你就可以判斷哪些是自動駕駛汽車，哪些是人類駕駛的汽車。
這個聽起來很熟悉嗎？
應該聽起來很熟悉，因爲這個和剛纔提到的那個計算精度的問題基本上是一樣的。
那怎樣解決這裏的駕駛問題？
一個方式是引入上文定義的人工智障行爲。
首先，你可以通過設置，讓車載人工智能系統故意縮短和前車的安全距離，讓它像人類一樣駕駛（撞向其他汽車）。相似的，我們可以修改人工智能系統，讓它在看到停車標誌時也走走停停。這些都可以輕鬆實現。
這樣，觀察自動駕駛汽車和人類駕駛汽車的人就不能夠區分這兩類車輛了，因爲這兩類車輛都以同樣的充滿錯誤的方式行駛。
在人類對自動駕駛汽車是否智能的看法方面，這似乎是解決了一個問題。
但是，稍微等一下，我們這樣做豈不是把人工智能系統變成了一位承擔更大風險的駕駛員嗎？
我們想要複製和擴散這種由人類危險駕駛行爲而導致的車禍嗎？
理智一點來看，當然不是。
因此，我們應當轉到人工智障的第二個定義，也就是從實質上將這些“愚蠢”的駕駛方式融入人工智能系統，好讓人工智能在適當的時候利用這些愚蠢元素，並且讓人工智能系統在需要的時候，能夠足夠意識到這些愚蠢元素，從而避開或者減少危險。
自動駕駛汽車不能盲目地像人類駕駛員那樣包容錯誤駕駛行爲，人們應當讓人工智能系統足夠發達到能應對人類駕駛員的缺點，成爲一位適當的防禦性的駕駛員，並且在行車環境合理時，人工智能系統本身能夠利用好這些人類駕駛員的缺點（想了解更多細節，請閱讀我這裏的博客）。
結論
關於當今人工智能系統，一個最不言而喻的祕密就是它沒有任何常識性推理的能力，也不具備人類所擁有的任何推理能力（很多人把這類人工智能稱爲人類通用智能，或者AGI：Artificial General Intelligence）。
因此，有些人會認爲當今的人工智能更接近於人工智障的一面，而不是真正的人工智能的一面。
如果人類有着智慧和愚蠢的雙重屬性，那可以推測出，如果你想讓人工智能展示出人類水平的智慧，你也需要在人工智能系統中注入同樣的雙重屬性（儘管，有些人說人工智能系統沒必要完全複製人類的屬性）。
在當今的公路上，我們正在看到越來越多的所謂人工智能自動駕駛汽車，但是，這些人工智能系統並沒有感知能力，也沒有任何接近感知能力的地方。
自動駕駛汽車只有在智能階梯上爬得更高才能獲得成功嗎？
現在還沒有人知道答案，但是問這個問題當然也不傻。
原文鏈接：