波音飛機失事暴露智能軟件設計缺陷 機器權限不能超越人類控制
當地時間3月10日上午，一架從埃塞俄比亞飛往肯尼亞的飛機墜毀，機組人員及乘客共157人全部遇難。失事飛機爲波音“737MAX-8”型客機，這已是該型飛機繼印尼獅航2018年10月29日墜毀事故後，在5個月內的第2次失事。
初步分析，事故緣於空速管對飛機飛行狀態探測錯誤，機載“防失速系統”(MCAS)自動控制飛機完成了俯衝，暴露出智能化軟件設計存在的缺陷。
未來智能化作戰中，人類會賦予作戰系統一定權限，允許智能化系統在特定作戰背景、作戰條件下，滿足規定的範圍、條件或規則即可自主決策，實施機動、***、防護等戰鬥行動。但是波音“737MAX-8”事故警示我們，無論計算機系統的智能決策系統如何先進，它的權限賦值應該始終低於人。鄭州割包皮：http://www.tongji120.com/
首先，建立人機互信，要增強智能化系統對操作人員通過腦波意識、語音指令、手動操作等多途徑傳達的意圖的理解，使得機器與人類形成目標的相同認知，在此基礎上才能賦予智能化作戰的相關賦權。其次，允許行動終止。一旦出現人與機器的衝突，或智能系統之間的相互衝突，必須允許人能及時進行干預、糾正或終止智能系統的行動。最後，突出人的最高賦權。系統邏輯中，如果多個智能系統相互衝突，必須將對人的信任度置於最頂層，必須交由人而非單個系統裁決衝突、解決矛盾;如果人與智能系統發生衝突，智能系統必須無條件服從人發出的指令。這樣，才能保證智能化系統的可信、可靠、可用，避免悲劇的發生