論文學習筆記1：
Theoretical Impediments to Machine Learning With Seven Sparks from the Causal Revolution
——機器學習的理論侷限與因果革命的7大火花
原文鏈接 → http://arxiv.org/abs/1801.04016
圖靈獎得主、貝葉斯網絡之父Judea Pearl於2018年1月上傳在arXiv、發表在2月的WSDM'18會議的論文Theoretical Impediments to Machine Learning With Seven Sparks from the Causal Revolution論述了當前機器學習理論侷限，並給出來自因果推理的7大啓發。Judea Pearl指出，當前的機器學習系統幾乎完全以統計學或黑盒子的方式運行，這對它們的能力和性能造成嚴重的理論上的侷限性。這些系統不能推理介入（intervention）和回溯（retrospection），因而不能作爲強AI的基礎。爲了實現人類級別的智能，學習器應該需要真實的模型的指導，就如同在因果推理任務中的模型一樣。爲證明這些模型的重要作用，他概述了七個任務，這些任務是當前機器學習系統無法實現的，但是已經使用因果建模工具完成的。他認爲實現強AI的突破口在於因果推斷理論，該理論可以幫助解決現有機器學習方法無法解決的問題，也即突破現有機器學習的理論限制。因爲現在的數據科學只有在加速了數據的解釋，即連接了數據與現實，纔可以稱作一門科學；現在的機器學習，只是函數擬合學習，永遠不可能實現強人工智能。
1. 科學背景
如果我們檢查驅動機器學習的信息，我們發現它幾乎完全是統計學的。換句話說，學習器通過優化從環境中獲得的傳感器輸入流的參數來改善其性能 。這是一個緩慢的過程，在許多方面類似於推動達爾文進化的自然選擇過程。它解釋了像老鷹和蛇這樣的物種如何在數百萬年中開發出極好的視覺系統。然而，它無法解釋人類如何能夠在不到一千年的時間內製造眼鏡和望遠鏡這樣的超級進化過程。人類所擁有的其他物種缺乏的是精神表徵（mental representation），這是一種人類可以隨意操縱的環境藍圖，以想象（imagine）用於規劃和學習的替代假設環境（評：也就是說人類可以將現實世界在心裏映射，然後可以在心裏隨意更改這種映射來想象和推理用於規劃和學習的環境的變化）。像N. Harari和S. Mithen這樣的人類學家普遍認爲，大約4萬年前賦予我們智人祖先能夠實現全球統治的決定性因素是他們能夠映射環境的精神表徵，審訊這一表徵，通過想象力的心理行爲扭曲它，最後來回答“What if?”這類問題。例子有介入性問題：“What if I act？”和回溯性或解釋性問題：“What if I had acted diferently？”。如今沒有學習器可以回答之前沒有遇到的介入性問題，比如“What if we ban cigarettes？ “。（評：這些問題都隱含着因果推斷，見後面有解釋）此外，如今的大多數學習器都沒有提供可以從中得出這些問題的答案的表示。
Pearl假定實現加速學習速度和人類水平表現的主要阻礙，應該通過消除這些障礙併爲學習器配備因果推理工具。 這個假設在二十年前本應是推測性的，是在反事實（Conterfactuals）的數學化之前的。但如今不是這樣的。圖形化和結構化的模型的進步使得反事實在計算上易於管理，從而使模型驅動（model-driven）的推理成爲強AI的基礎的更有希望的方向。在下一節中，我將使用三級層次結構描述機器學習系統面臨的阻礙，這些三級層次結構被用來控制因果推理中的推斷。最後一節總結了如何使用現代因果推理工具規避這些阻礙。
因果推理邏輯揭示的一個非常有用的見解是因果信息的敏銳分類是存在的，即每個類別能夠回答的問題類型。該分類形成3級的層次結構，級別
圖1顯示了3級層次結構，以及可在每個級別回答的特徵問題。這些問題包括：1、關聯；2、介入；3、反事實。（評：關聯
我們稱第一級爲“關聯”，因爲它代表純粹的統計關係，由裸數據（naked data）定義。（這一層次的其他名字還有“無模型”、“盲模型”、“黑盒子”或“以數據爲中心”，Darwiche(2017)使用“函數擬合”，由於它相當於使用一個由神經網絡結構定義的複雜函數對數據的擬合）。例如，觀察一個購買牙膏的顧客，那麼他/她購買牙線的可能性更大;這種關聯可以使用條件期望直接從觀察到的數據推斷得出。此層的問題位於層次結構的底層，因爲它們不需要因果信息。
第二級“干預”排名高於“關聯”層，因爲它不僅涉及我們看到的是什麼，而且設計我們所看到的改變。這個層次的一個典型問題是：如果我們將價格翻倍會怎樣？這些問題無法單獨從銷售數據中得到解答，因爲它們涉及客戶響應新的定價的行爲的變化。這些選擇可能與之前的價格上漲情況大不相同（除非我們準確地複製當價格達到當前價值的兩倍時存在的市場條件）。（評：“介入”層如其名，說的是當改變了不一樣的條件時會發生什麼？強調的是對條件的介入）
最高的層被稱爲“反事實”，這個術語可以追溯到哲學家David Hume和John Stewart Mill，過去二十年來一直被賦予計算機友好的語義。反事實類別中的一個典型問題是“如果我採取了相反行爲會怎麼樣？”，因此需要進行回溯性推理。反事實被放置在層次結構的頂部，因爲它們包含介入和關聯層的問題。如果我們有一個可以回答反事實查詢的模型，我們也可以回答有關干預和介入的問題。例如，介入性問題，如果我們將價格翻倍會發生什麼？可以通過詢問反事實問題來回答：如果價格是當前價值的兩倍，會發生什麼？（評：其實對於博大精深的中文而言看起來似乎沒太大區別，但是仔細咀嚼英文原文可以感受到不同）同樣，一旦我們回答了介入性問題，就可以回答關聯性問題；我們只需完全忽略了動作部分並讓觀察接管。無法從純觀察信息（即僅來自統計數據）回答介入性問題。任何涉及回溯的反事實問題都不能從純粹的介入信息中得到回答，例如從受控實驗獲得的信息；我們不能對接受藥物治療的受試者重新進行實驗，看看他們沒有服用藥物時的行爲方式。因此，層次結構是具有方向性的（評：即可以從高層抵達低層，但高層問題不能從純粹的低層問題獲得答案），頂層是最強大的層次結構。
反事實是科學思維以及法律和道德推理的基石。例如，在民事法庭上，被告被認爲是受傷的罪魁禍首，“但對於”（but for）被告的行爲而言，更有可能不會發生傷害（評：也就是從被告的角度看傷害也有可能並沒有發生，需要從反事實的角度對比）。"但對於"的計算的意義，要求將現實世界與被告行動未發生的替代世界進行比較。
層次結構中的每個層都有一個句法標籤，用於表徵哪些句子被允許進入該層。例如，“關聯”層的特徵在於條件概率句子，如
在“介入”層，我們找到
最後，在“反事實”層，我們有
這種層次結構及其所包含的正式限制，解釋了爲什麼基於統計的機器學習系統無法推理行爲、實驗和解釋。它還告訴我們什麼樣的統計信息以外的信息是需要的，以及支持這些推理模型的格式。
研究人員常常感到驚訝的是，這種層次結構將深度學習的令人印象深刻的成就，跟課本里的曲線擬合練習一起下降到”關聯“層的水平。（評：就是這種層次結構貶低了深度學習的成就）反對這種比較的一種流行的立場認爲，雖然曲線擬合的目的是最大限度地“擬合”，但在深度學習中試圖最小化“過度擬合”。不幸的是，將層次結構中的三個層分開的理論侷限告訴我們，我們的目標函數的性質其實無關緊要。只要我們的系統優化了觀察數據的某些屬性，無論它們是高尚的還是複雜的，同時沒有引用數據之外的世界，我們又回到了層次結構的第1級，具有該級別所需的所有限制。（評：無論你怎麼搞，只是純粹的觀察數據，那麼你就在level-1待著吧）
2. 因果革命的七大支柱（或者說什麼事情是離開了因果模型不能做的？）
考慮以下五種問題：
- 給定的治療在預防疾病方面的效果如何？
- 是否是新的減稅措施導致銷售額上升？
- 肥胖導致的年度醫療費用是多少？
- 僱用記錄是否可以證明僱主犯有性別歧視罪？
- 我即將退出我的gob，但是我應該嗎？
這些問題的共同特點是它們關注因果關係。我們可以通過諸如“預防”，“原因”，“歸因於”，“歧視”和“我應該”等詞語來認識（識別）它們。這些詞在日常用語中很常見，我們的社會不斷要求回答這些問題。然而直到最近，科學甚至沒有辦法表達它們，更不用說回答它們了。（評：就是說你們深度學習的模型都無法準確表示他們的意思了，更何談回答這些問題）與幾何、機械、光學或概率的規則不同，因果規則被否定了數學分析的好處。（評：不像那些學科直接利用數學分析可以帶來很多好處，因果規律不能通過數學分析帶來好處）
爲了理解這種否認的程度，讀者會驚訝地發現，僅僅幾十年前科學家們還是無法寫出一個數學方程式來解釋“泥不會引起降雨”的明顯事實。即使在今天，只有頂級梯隊科學界可以寫出這樣一個等式，並正式區分“泥雨導致雨”和“雨導致泥”。你可能會更驚訝地發現你最喜歡的大學教授不在其中。（評：哈哈哈哈，老爺子很幽默）
在過去的三十年裏，事情發生了巨大的變化，一種用於管理因果關係的數學語言被開發了出來，伴隨着一系列將因果分析轉化爲數學遊戲的工具，像是求解代數方程或在高中找到幾何問題的證明。這些工具允許我們以圖和代數形式正式編纂我們現有的知識表達因果問題，然後利用我們的數據來估計答案。此外，當現有知識的狀態或現有數據不足以回答我們的問題時，該理論警告我們；然後建議獲得其他知識或數據來源，使問題可以回答。
哈佛大學教授Garry King給出了這種轉變的具有歷史意義的觀點：“在過去的幾十年裏，人們已經學到了比以往所有歷史記錄中所學到的所有內容的總和還要多的關於因果推斷的知識”（Morgan and Winship，2015）。我將這種轉變稱爲“因果革命”（Pearl和Mackenzie，2018）以及導致它的數學框架，我將其稱爲“結構因果模型（Structural Causal Models, SCM）”。
SCM由三個部分組成：
- 圖模型
- 結構方程組
- 反事實和介入邏輯
圖模型作爲表達我們對世界的瞭解的語言，反事實幫助我們闡明我們想要知道的東西，而結構方程組則用於將兩者結合在一起，形成一個堅實的語義。
圖2以推理引擎的形式說明了SCM的操作。 引擎接受三個輸入：查詢，假設和數據，併產生三個輸出：Estimand，Estimate和Fit指數。Estimand是一個數學公式，它基於假設Assumptions，提供了一個從任何可用的假設數據中回答查詢的方法。 在收到數據Data後，引擎使用Estimand生成答案的實際Estimate，以及該答案中置信度的統計估計值（反映數據集的有限大小，以及可能的測量誤差或缺少的數據）。 最後，引擎生成一個“擬合指數”列表，用於衡量數據Data與模型傳達的假設Assumptions的兼容性。
爲舉例說明這些操作，我們假設查詢Query表示X對Y的因果效應，寫作
相同的過程適用於更復雜的查詢，例如，之前討論過的反事實查詢
接下來，我們提供了SCM框架七項成就的鳥瞰圖，並討論了每個支柱爲自動推理藝術帶來的獨特貢獻。
支柱1：編碼因果假設 - 透明度和可測性（因果假設表示，graphical表示）
一旦我們認真考慮透明度和可測試性的要求，以緊湊和可用的形式編碼假設的任務並非易事。（例如，經濟學家選擇了代數而不是圖表示，這種方式被剝奪了基本的檢測可測性特性（Pearl，2015b））透明度使分析人員能夠辨別編碼的假設是否合理（基於科學理由），或者是否有其他假設是有保證的。可測試性允許我們（無論是分析師還是機器）確定編碼的假設是否與可用數據兼容，如果不兼容，則確定需要修復的假設。
圖模型的進步使得緊湊編碼變得可行。它們的透明度自然源於這樣一個事實，即所有假設都以圖方式編碼，反映了研究人員對領域內因果關係的看法；不需要對反事實或統計依賴性的判斷，因爲這些可以從圖的結構中讀出。通過稱爲d-separation的圖標準促進可測試性，該標準提供原因和概率之間的基本連接。它告訴我們，對於模型中任何給定的路徑模式，我們應該期望在數據中找到什麼樣的依賴模式（Pearl，1988）。
支柱2：混雜因子控制（back-door、front-door、do-calculus）
長期以來，混淆或存在兩個或多個變量的未觀察到的原因一直被認爲是從數據中得出因果推斷的主要障礙。這個障礙已被揭祕並通過稱爲“後門”的圖形標準“解除混淆”。 特別是選擇的任務用於控制混雜的適當的協變量集已經簡化爲一個簡單的“路障”難題，可通過簡單的算法進行管理（Pearl，1993）。
對於“後門”標準不成立的模型，可以使用象徵引擎，稱爲do-calculus，它可以在可行的情況下預測政策干預的效果，並且只要在指定的假設下無法確定預測，就會以失敗退出（Pearl） ，1995; Tian和Pearl，2002; Shpitser和Pearl，2008）。
支柱3：反事實的算法化
反事實分析處理特定個體的行爲，由一系列不同的特徵來識別，例如，鑑於Joe的薪水是Y = y，並且他上了X = x年大學，那麼Joe的薪水是多少當他多受一年教育。
因果革命的最高成就之一就是在圖表示中形式化反事實推理，這是研究人員常用來編碼科學知識的方法。每個結構方程模型都確定了每個反事實句子的真值。因此，我們可以通過分析確定句子的概率，如果句子的概率可以通過實驗或觀察研究或其組合來估計[Balke and Pearl，1994;Pearl，2000年，第7章]。
對因果話語特別感興趣的是關於“影響的原因”的反事實問題，而不是“原因的影響”。例如，Joe的游泳運動是Joe死亡的必要（或充分）原因的可能性有多大（珍珠， 2015a; Halpern和Pearl，2005）。
支柱4：調解分析和直接和間接影響的評估
調解分析涉及將變化從原因傳遞到其影響的機制。 識別這種中間機制對於產生解釋是必不可少的，並且必須引用反事實分析以促進這種識別。反事實的圖表示使我們能夠定義直接和間接的影響，並決定何時可以從數據或實驗中估計這些影響（Robins和Greenland，1992; Pearl，2001; VanderWeele，2015）。 通過該分析可回答的典型查詢是：X對Y的影響的哪一部分由變量Z調解的。
支柱5：外部有效性和樣品選擇偏差
每個實驗研究的有效性受到實驗和實施設置之間的差異的挑戰。除非對變化進行定位和識別，否則在環境條件變化時，不能期望在一個環境中訓練的機器表現良好。這個問題及其各種表現形式得到機器學習研究者的充分認可，“領域適應”，“轉移學習”，“終身學習”和“可解釋的人工智能”等只是研究人員和資助機構試圖減輕一般性的魯棒性問題確定的一些子任務。不幸的是，魯棒性問題需要環境的因果模型，並且不能在關聯層面處理，其中嘗試了大多數補救措施。關聯不足以確定受發生變化影響的機制。上面討論的do-calculus現在提供了一種克服由於環境變化引起的偏差的完整方法。它既可用於重新調整學習策略以規避環境變化，也可用於控制由非代表性樣本引起的偏差（Bareinboim和Pearl，2016）。
支柱6：缺失數據
缺失數據的問題困擾着實驗科學的每個分支。 受訪者不會回答調查問卷中的每個項目，傳感器隨着環境條件的變化而逐漸fade，患者經常因爲不明原因而從臨牀研究中退出。 關於這個問題的豐富文獻結合了統計分析的盲模型範式，因此，它嚴重侷限於隨機發生缺失的情況，即與模型中其他變量所採用的值無關。 使用缺失過程的因果模型，我們現在可以形成條件，在這些條件下，可以從不完整的數據中恢復因果關係和概率關係，並且只要條件得到滿足，就可以對期望的關係產生一致的估計（Mohan和Pearl，2017）。
支柱7：因果發現
上述d-separation標準使我們能夠檢測和列舉給定因果模型的可測試含義。 這開啓了通過溫和假設推斷與數據兼容的模型集並且緊湊地表示該集合的可能性。 已經開發了系統搜索，在某些情況下，可以將這組兼容模型顯着地修剪到可以直接從該組中估計因果查詢的點（Spirtes等，2000; Pearl，2000; Peters等，2017;）
3. 總結
哲學家Stephen Toulmin（1961）認爲基於模型和盲模型的二分法是理解巴比倫和希臘科學之間古代競爭的關鍵。根據Toulmin的說法，巴比倫的天文學家是黑箱預測的主人，在準確性和一致性方面遠遠超過他們的希臘對手（Toulmin，1961，pp.27-30）。然而，科學贊成希臘天文學家的創造性思辨策略，這種策略具有形而上學意象的狂野：充滿火焰的圓形管，天體火焰可以看作星星的小洞，以及在海龜背上騎行的半球形地球。然而正是這種狂野的造型策略，而不是巴比倫的剛性，震動了Eratosthenes（公元前276-194），進行了古代世界最具創造性的實驗之一，並測量了地球的半徑。巴比倫曲線鉗工永遠不會發生這種情況。
回到強大的人工智能，我們已經看到盲模型方法對他們可以執行的認知任務有內在的理論侷限。我們已經描述了其中的一些任務，並演示瞭如何在SCM框架中完成這些任務，以及爲什麼基於模型的方法對於執行這些任務至關重要。我們的一般結論是，人類AI不能僅僅來自盲模型學習機器;它需要數據和模型的共協作。
數據科學只有當它促進了數據的解釋——一個將數據與現實聯繫起來的雙體問題，才能稱爲是一個學科。數據本身並不是一門科學，無論它們多大以及如何巧妙地操縱它們。
（評：老爺子的這篇文章主要圍繞着他這二十年的研究展開，所以有必要了解他的相關文章內容促進對本文內容的理解）
另外老爺子還在NIPS 2017 研討會發表了與該話題相關的講話，以下是Q&A的翻譯及ppt和論文鏈接：
我在一個關於機器學習與因果性的研討會（長灘 NIPS 2017 會議之後）上發表了講話。隨後我就現場若干個問題作了迴應。我希望從中你可以發現與博客主題相關的問題和回答。一些人也想拷貝我的 PPT，下面的鏈接即是，並附上論文：
http://ftp.cs.ucla.edu/pub/stat_ser/r475.pdf
NIPS 17 – What If? Workshop Slides (PDF)
NIPS 17 – What If? Workshop Slides (PPT [zipped])
問題 1：”因果革命“是什麼意思？
回答：”革命“是詩意用法，以總結 Gary King 的有重大歷史意義的發現：”在過去的幾十年裏，人們已經學到了比以往所有歷史記錄中所學到的所有內容的總和還要多的關於因果推斷的知識“。三十年之前，我們還無法爲”泥無法導致下雨“編寫一個公式；現在，我們可以公式化和評估每一個因果或反事實陳述。
問題 2：由圖模型產生的評估與由潛在結果的方法產生的評估相同嗎？
回答：是的，假設兩種方法開始於相同的假設。圖方法（graphical approach）中的假設在圖中被展示，而潛在結果方法（potential outcome approach）中的假設則通過使用反事實詞彙被審查者單獨表達。
問題 3：把潛在的結果歸因於表格個體單元的方法似乎完全不同於圖方法中所使用的方法。它們的區別是什麼？
回答：只在有可條件忽略的特定假設成立的情況下，歸因纔有效。表格本身並未向我們展示假設是什麼，其意義是什麼？爲了搞明白其意義，我們需要一個圖，因爲沒有人可在頭腦中處理這些假設。流程上的明顯差異反映了對假設可見的堅持（在圖框架中），而不是使其隱藏。
問題 4：有人說經濟學家並不使用圖，因爲其問題不同，並且也沒能力建模整個經濟。你同意這種解釋嗎？
回答：不同意！從數學上講，經濟問題與流行病學家（或其他科學家）面臨的問題並無不同，對於後者來講，圖模型已經成爲了第二語言。此外，流行病學家從未抱怨圖迫使其建模整個人體解剖結構。（一些）經濟學家中的圖規避（graph-avoidance）是一種文化現象，讓人聯想到 17 世紀意大利教會天文學家避開望遠鏡。底線：流行病學家可以判斷他們的假設的合理性——規避掉圖的經濟學家做不到（我提供給他們很多公開證明的機會，並且我不責怪他們保持沉默；沒有外援，這個問題無法被處理）。
問題 5：深度學習不僅僅是你所強烈描述的曲線擬合？畢竟，曲線擬合的目標是最大化擬合，同時深度學習中很多努力也在最小化過擬合。
回答：在你的學習策略中不管你使用何種技巧來最小化過擬合或其他問題，你依然在優化已觀察數據的一些屬性，同時不涉及數據之外的世界。這使你立即回到因果關係階梯的第一階段，其中包含了第一階段要求的所有理論侷限。
Q&A原文鏈接：NIPS 2017: Q&A Follow-up——Causal Analysis in Theory and Practice