人工智能的利與弊

原創不易，轉載前請註明博主的鏈接地址：Blessy_Zhu https://blog.csdn.net/weixin_42555080
　

　

1 人工智能的背景

對於最近剛上映的關於機器人的電影《阿麗塔：戰鬥天使》，讓我們感慨電影主創人員給我們帶來的精彩視覺體驗的同時,也不經擔心到如果機器人真的有思想，它們真的會像電影中那樣肆意殺戮呢？除了《阿麗塔：戰鬥天使》，關於機器人的電影有很多，本文還選取了《鐵甲鋼拳》和《我，機器人》這三部電影，利用Python3.7和PyCharmIDE，通過Python語言編寫爬蟲語句，獲取到了豆瓣上關於這三部電影的評語，並做成WordCloud進行展示（爬蟲內容請參考文章：Python爬蟲之豆瓣電影評論數據的爬取（十四）），如下圖1，圖2，圖3所示：
　

　

圖1 《阿麗塔：戰鬥天使》影評詞雲

圖2 《鐵甲鋼拳》影評詞雲

圖3 《我，機器人》影評詞雲

通過上面的影評詞雲可以看到，對於《阿麗塔：戰鬥天使》，觀衆們更驚呼它的電影特效帶來的震撼；對於《鐵甲鋼拳》觀衆們則更注重它展現出來的男性荷爾蒙散發出來的正義感；但是，對於《我，機器人》觀衆們更擔心的則是當機器人真的具有和人類一樣的思想的時候，他們在不違背劇中的“三大定律”的情況下，真的可以和人類和諧共處嗎，還是會傷害人類。從爬蟲獲取到的數據，本文篩選了幾條具有代表性的評論，來展示觀衆對機器人觀點，如下表1所示，本文將情感分類分爲“+”表示積極評價，“-”表示消極評價；同時將情感級數分爲正負各五級，分別是“+1”—“+5”最高是“+5”，“-1”—“-5”最高是-5：
　

　
表1 電影影評截取

影評內容	情感分類	情感級數
電影特效真的很震撼	+	+3
有思想的機器人和人類真的可以共存嗎	-	-1
太可怕了，希望不是真的	-	-4
真man，我也希望有一個可以隨時保護我的機器人	+	+2
告訴我在哪可以買到這種機器人，我願意傾家蕩產	+	+5
如果機器人真的有自己的思想，人類滅絕的開端	-	-5

2016年3月,由谷歌（Google）旗下DeepMind公司戴密斯•哈薩比斯領銜的團隊開發阿爾法圍棋（AlphaGo）與圍棋世界冠軍、職業九段棋手李世石進行圍棋人機大戰，以4比1的總比分獲勝，它是第一個擊敗人類職業圍棋選手、第一個戰勝圍棋世界冠軍的人工智能機器人。其主要工作原理是“深度學習”。說到深度學習，它其實只是人工智能的一個分支，下面這張圖4可以反映深度學習、機器學習、遷移學習等和人工智能的關係。
　

　

圖4 人工智能知識結構圖
也許當人們一提到人工智能，可能衆多人第一反應就是機器人。因爲在各種文學著作，電影，電視劇中人工智能的形象以機器人居多，比較出名的就有“終結者”這種膾炙人口的經典。人工智能並不是侷限於機器人這一個品種。理想中的人工智能應該是包含着各種形態的智能體，以我們人類可見可概括的形體來說，可以是計算機程序、機器人、車載硬件、甚至是芯片，而人工智能就存在與這些硬件當中的軟體內。

2人工智能的利與弊

然而，萬事皆有利有弊。使機器有自己的思維是否會對人類自身產生威脅，這是人們需要考慮的事情。就像電影《我，機器人》便描述了一個機器人反而要消滅人類的悲劇。同時，大量人工智能的產生會造成大量的失業。由此而見，科學家需要做的還有很多。但有一點事確定的，只要正確運用人工智能，它將極大程度上推動人類文明的進步。接下來，看一看人工智能帶來的利與弊。

2.1 人工智能帶來的利

當掃地機器人、削麪機器人、做飯機器人、工業機器人、消防機器人、戰鬥機器人等開始運用於我們的生活中時，不得不說給我們的生活帶來了極大便利。首先，人工智能在能源發展過程中會間接地提高能源的利用率。這個功能在日常生活中的表現是：有些智能硬件，可以根據你以往的習慣，判斷你什麼時候到家，這樣在你進入房子之前它就可以把室內氣溫調節到相宜的溫度，這樣就是一種節約能源的方式。像這樣的方面還有很多，如果這種智能設備能夠被成千上萬的家庭使用的話，那能源利用率就會極大地提高，能源就會得到極大的節省。其次，人工智能和人類智慧越來越明顯的分工會極大地節省人力資源成本，這必然會成爲人工智能在未來工業領域的一大趨勢：有些效率低的工作由智能機器人做更好。比如有些重複性的工作，這些工作由智能機器人來做不但節約了人力成本而且提高了工作的效率。如果把人工智能應用在工業中，去調節一些不可控的因素，而不需要消耗大量的人力。比如風車發電，有了人工智能，就不需要浪費大量人力在不確定的風向上，人工智能設備會根據不同的風向對風車做出相應的並且是及時的調整。

2.1.1 商業價值高

般認爲，人工智能有三大商用方向：一是信息聚合；二是評估用戶情緒反應；三是與用戶建立關係，可以通過這三點建立與用戶之間的社交紐帶，讓他們經常回訪。怎麼做？給用戶反饋。第一步就是要收集用戶數據，利用人工智能更好地瞭解用戶，基於大數據的分析，爲用戶創造優質的、長期的個性化體驗。
人工智能擁有數據意味着擁有戰略上的優勢，因爲通過數據可以更好地瞭解人類、可以創造更好的軟件，讓更多的人快樂。企業就能夠相應的賺取更多的商業價值。

2.1.2帶來更多新的工作機遇

就像曾經脫離了傳統農業、傳統手工業的大量勞動力，在現代工業生產和城市服務業中找到新的就業機會那樣，人工智能的進步也將如此——由當前數據密集型機器學習、通過機器學習與人工智能會話的系統而延伸出的很多領域，將會在未來帶來很多工作機遇。
未來隨着自動駕駛、超人類視覺聽覺、智能工作流程等技術的發展，專業司機、保安、放射科醫生、行政助理、稅務員、家政服務員、記者、翻譯等工作都將可能被人工智能所取代。但是人工智能也會帶來更多新的工作機遇，君不見好多公司開出天價的年薪搶人工智能人才？

2.1.3讓人類生活更美好

例如，人工智能的醫療應用惠及大衆。我們醫生或許難以保持最新治療方案和方法，也無法瞭解所有醫學例案。人工智能可以在短時間內分析大量數據，精確判斷病症，並找到最佳的治療方案，爲人們提供最好的治療。再說，先如今已經被廣泛運用的無人駕駛不僅減輕了人們的負擔，更是大大降低了事故率。再比如說，如今蘋果系統的SIR手寫版系統、生物識別系統都是人工智能的應用，都讓人類的生活質量得到顯著提高。

2.1.4 推動社會進步

人工智能應用後，各行業的生產效率大幅提高，人類財富以幾何形式快速增長，爲人類的美好生活提供了堅實的物質基礎。人工智能將人類從重複的、無意義的工作中解放出來，從高危險的工作中解放出來，讓人有了更多選擇的自由，從而把更多精力投入到更有意義的領域中去。人工智能也讓人類突破得以發展的瓶頸。例如，人工智能可以探索外太空、山海冰河這些人類無法企及的地方，可以讓複雜的大數據得到高效的分析與合理的運用，讓人們探索到更深層次的知識。所以人工智能使人類超越了自己本身的侷限，實現了人類的進一步解放。
人工智能推動了人類的理性進步，可以反過來促進人類的發展。人工智能研發過程的本身就具有研究人腦認知與功能的需求和特性，而使人類在這個過程中就學習了學習的方法，從而增強人類的邏輯思維能力。人工智能更新了人類應對問題的方法，比如依靠大數據的分析，沃森醫生可以提供對病人傷害最小的、全新的治療手段和技能範圍。比如，從而豐富人類應對各種問題的方法。人工智能也拓寬了人類知識技能範圍，比如，人工智能根據對大數據分析得到各種新知識、新信息，使人們難以預測的洪水、地震等災害的預報的精確程度大大提高，使人類在自然面前的約束變得更強大。

2.2 人工智能帶來的弊

2.2.1 大規模的失業

人工智能的發展，導致很多人失業。據人力資源和社會保障部2018年新聞發佈會介紹，2018年末中國失業率達4.05%，機器人不會犯錯，不會累，不需要休息，不需要工資。這完全可以代替很多職業，例如工人，司機等等不需要思想的工作。如此便會導致大批大批的人失業，大批大批的人整日無所事事。
人工智能大規模使用，必然帶來大規模的失業。很多人必然被機器人所取代。而大規模的失業，一則給政府帶來沉重的負擔，二則必然使需求下降，千千萬萬的企業不得不破產。科幻作家科利•多克託羅（CoryDoctorow）在BoingBoing網站上寫道：“如果我們堅持認爲，機器人提高生產力帶來的好處應該歸功於機器人所有者，那麼我們肯定會迎來這樣的未來：沒有足夠多的機器人所有者會購買機器人制造的所有東西。”
人工智能時代的到來可能是對人類的一次大淘汰。機器人對人類的大淘汰，如果處理不好有可能引發核大戰，那將是人類的災難，人類可能因此而滅亡。
舉一個例子：“想像一下，如果有一天，冰箱向你抱怨它工作時間太長了，或者要求加薪，你一定會覺得這太可怕了。不要認爲人工智能只是按照程序進行，未來它將像嬰兒的大腦一樣具有學習功能，很可能超過人的智能，摧毀我們人類。”牛津大學波斯特羅姆教授說：“先進的人工智能不僅僅是一門新技術，而是一個對人類的巨大威脅。”

2.2.2 人才爭奪戰導致壟斷、貧富分化加劇

人工智能時代的到來，必將引發空前的人才爭奪戰。誰擁有的各類一流人才數量多質量高，誰就能贏得最後勝利。同時這會導致巨頭的壟斷、貧富分化加劇。

2.2.3 戰爭頻繁

人工智能的應用將出現各種各樣的機器人兵團。特別是在軍事領域，機器人兵團將給很多人帶來災難，戰爭也會更加頻繁，畢竟不需要人自己上戰場了，死了也無所謂。與之同時，也必將出現反機器人軍隊（兵團）。人類社會及一切事物就是在矛盾鬥爭中發展的。

2.2.4 不可控性帶來的危險性

2015年，德國汽車製造商大衆公司位於德國的一家工廠內，一個機器人殺死了外包員工。至今日本已有近20人死於機器人手下，致殘的有8000多人。衆所周知，日本是人工智能機器人發展最快的一個國家，就已經出現了這樣慘重的後果。如果人工智能機器人被恐怖分子利用那就更加危險了，如果恐怖分子建立一支機器人部隊，機器人武器一旦落入恐怖分子之手，後果將不堪設想。

3 如何趨利避害

歷史上每一次工業革命都會助推強國崛起，引發國力轉變，重塑世界格局。人工智能（AI）技術的發展應用同樣正在孕育着一場革命，爲我國提供了重大歷史機遇。“搶抓機遇，乘勢而上”已成官商學界的高度共識。而世界大國對人工智能安全問題的擔憂則要比過去歷次科技革命的利害權衡都更爲深入、廣泛和尖銳。在發展人工智能的全球競爭中能否成爲這一新興技術的引領者，很大程度上取決於對“發展與安全”問題的瞭解、認識和應對。

3.1 充分了解人工智能技術隱含的安全風險

人工智能是典型的軍民兩用技術，利弊並存，其智能化程度越高，雙刃劍特徵就越突出。已故的英國科學家斯蒂芬•霍金教授認爲人工智能可能會毀滅人類，直接將“能否掌握對人工智能的控制權”這一拷問，提到人類戰略的高度。目前，世界各國在競相發展人工智能的同時，都高度重視其安全風險。政界、軍界、產業界和智庫密集討論其對國家安全和國際秩序的威脅與挑戰。歸結而言，人工智能技術應用的安全風險突出體現在三個方面：
一是國家安全風險。人工智能技術使機器擁有越來越高級的智能，力圖突破人力的侷限，甚至改變人類與技術的深層聯繫，給國家發展帶來深層變革，其“威力之大，堪比核武”，被公認是“對國家安全帶來深刻變化的顛覆性技術”。如果管控不當，將直接影響政治、政權、經濟、金融、網絡、文化等國家重要行業和核心領域的安全與穩定。各主要大國在國家安全戰略和科技發展戰略等重要文件中均特別強調對人工智能危及國家安全的擔憂：一是擔心對這一新興戰略能力的缺失。普遍認爲，新一代人工智能會成爲重要的戰略威懾力量，類似於“擁核自重”。不在人工智能上佔據制高點，就難以在未來的國際舞臺上掌握主動權、擁有話語權。2018年4月，蘭德公司發佈報告《人工智能對核戰爭風險的影響》指出，到2040年人工智能有可能顛覆核威懾戰略的基礎。二是擔心對人工智能技術濫用的失控。人工智能這種賦能極強的技術手段獲得容易，管控極難，濫用門檻極低，容易落入極端個人或犯罪團伙之手，會給政權安全和社會穩定帶來重大威脅。三是擔心對人工智能應用中重大安全風險的失察。人工智能技術應用推廣隱含着諸多不確定性，近年在西方政治中出現的利用大數據分析和社交平臺部署“機器人水軍”達到“網絡干預選舉”的口水仗和劍橋分析公司利用人工智能等技術操控選民意見和行爲的曝光，彰顯出新的政治安全風險。沒有預測、預警和預防能力，智能化時代的系統性、災難性風險在所難免。
二是軍事安全風險。兩用技術，最受軍方的青睞。一方面，越來越多的國家試圖研發“致命性自動武器”，而個人或非國家行爲體則越來越容易獲得這種“四兩撥千斤”的“遠程精確打擊能力”“機器自動殺人”可能不再是科幻。另一方面，有的國家或非國家實體可能將商業團體開發的工業機器人轉化成接近實用的“機器人戰士”。更值得關注的是，西方軍界對智能化武器裝備、戰場戰法、戰爭理論等的研究越來越多，且日益深入，引發有識之士的普遍擔憂。以至於特斯拉創始人馬斯克等來自26個國家的116名專家去年聯名致信聯合國，強烈呼籲制止“智能武器”的軍備競爭，將其納入國際公約的管制。今年四月初，30個國家和地區的50多名專家學者聯合抵制韓國科學技術院與軍工企業合作的機器人武器研發項目。英國政府的一份報告明確表示：永遠不能給人工智能系統傷害人的權力。
三是社會安全風險。人工智能技術的創新和推廣，將不斷突破現有法律法規、社會規範和道德倫理的限制，直接給社會生活帶來多維度的安全挑戰。一是智能社會的經濟生產與生活模式高度自動化，具有智能的機器對傳統人工的替代在解放人力勞動者的同時，直接帶來對就業的衝擊，給本來就存在就業壓力的發達國家帶來社會風險。尤其是人工智能越來越多地應用於大數據環境下的決策，由於機器系統無法像人那樣解釋或合理化其所作的決定，所謂的“算法偏見”會帶來更爲複雜的社會問題。二是當智能技術無處不在，萬物互聯成爲常態，大量的個人隱私會直接暴露給智能設備，構成日益尖銳且相當普遍的網絡信息安全問題。三是人工智能主要靠軟件與算法驅動，而軟件與算法皆是人爲編寫，難免出現技術漏洞和人爲缺陷。人工智能與物聯網的深度融合，使得智能產品成爲網絡攻擊新的風險點和突破口。人工智能既普遍又敏感，正用反用，存乎一念，善惡之間，天壤之別。美國有研究表明，虛設假場景、僞造音視頻會直接引發股市動盪、街頭政治和社會危機。在近兩年的世界黑客大會上，具有人工智能的“神器”“殺器”紛紛亮相。聯合國曾召開“人工智能向善”大會，專門討論技術標準、安全規範和道德倫理等問題，以防機器人作惡，表達了國際社會的集體焦慮。近期，谷歌公司3100多名員工聯名抗議爲五角大樓開發相關高端人工智能技術，也是這種社會憂慮的反應。

3.2 充辯證認識人工智能應用面臨的安全問題

回顧人類文明史，在利弊並存的技術革命和社會創新面前，人類總能憑藉自身的智慧探索出一條趨利避害的發展道路，從而在適應發展、改造自然的進程中化險爲夷，轉危爲安。相對前述多方面的風險隱患，新一代人工智能帶給人類的發展機遇更爲現實和明顯。隨着計算能力的提高，大規模數據的積累和學習算法的進步，人工智能正在重塑我們的世界、社會和生活。日新月異的人工智能應用不僅使我們的生活更加便捷和高效，而且能爲我們應對和解決重大社會性、全球性難題提供新的方法和手段。尤其重要的是，人工智能的發展將給全球帶來巨大的經濟發展機會。普華永道2017年的一項研究表明：在人工智能技術的推動下，2030年全球GDP將增長14%，相當於15.7萬億美元。發展與安全的利害關係，不言而喻。回顧我國近代史，在多次重大的世界性技術變革面前，由於在風險感知、安全預判上的糾結與失據，讓我們痛失多次歷史發展機遇，留下苦澀的遺憾。四十年的改革開放生動地證明了“發展是硬道理”，也辯證地揭示了“不發展是最大的不安全”。因此，對人工智能發展中面臨的安全問題，應當要有辯證的認識。

3.3 有效應對人工智能發展提出的安全挑戰

人工智能的發展應用是科技的發展，也是交叉學科的發展，更是新一輪工業革命的重要趨勢。人工智能發展是一個學科，是一門技術，是一個系統，是一個工程，是一個跟人們生活、生產密切相關的新的領域。技術對大家來講相對都是平等的，國際社會應該加強合作，世界各國一起趨利避害。第一，要加快推動人工智能在基礎理論、算法、計算能力、數學模型等方面的進步；第二，要加強芯片、器件、部件方面的研發；第三，要加強設備、系統等方面的協作。第三，國際社會應加強人工智能在隱私、倫理、法律法規方面的交流合作，共同推動人工智能技術的國際治理和行業自律，宣揚好的社會公德和倫理道德，推動人工智能更好地造福人類。

4、總結

人工智能是基於數學、邏輯學、統計學之上，通過經驗積累得到學習能力，從而協助人們進行某項工作的操作系統。人工智能與人類智能有着本質區別和根本界限。人工智能是物理過程，而非生物過程；它是模擬人的某種行爲，而不是人的行爲本身，它不具備人類的自我意識，無法形成一個主觀事件。人工智能的優勢只不過在某些領域比人類更精確，更穩定，擁有更強烈的計算能力而已。第一，人工智能讓人類生活更美好。讓人類的生活質量得到顯著提高。第二，人工智能推動社會進步，實現人類進一步解放。人工智能應用後，各行業的生產效率大幅提高，人類財富以幾何形式快速增長，爲人類的美好生活提供了堅實的物質基礎。人工智能將人類從重複的、無意義的工作中解放出來，從高危險的工作中解放出來，讓人有了更多選擇的自由，從而把更多精力投入到更有意義的領域中去。第三，人工智能推動了人類的理性進步，可以反過來促進人類的發展。人工智能研發過程的本身就具有研究人腦認知與功能的需求和特性，而使人類在這個過程中就學習了學習的方法，從而增強人類的邏輯思維能力。