可以預見，未來社會將會是人類與智能機器人共存的社會。確定的是，智能化將會對人類生活各各方面帶來天翻地覆地變化。面對智能化社會，我們在興奮的同時卻不能忽略其所帶來的挑戰。
人工智能確實爲我們生活及工作帶來諸多好處。工廠有了機器人，成本降低了，效率也提高了。生活中，我們有掃地機器人，有各種智能家居。我們不再需要爲一些瑣碎的事情煩惱。而正因爲智能化社會給人類帶來太多的好處，我們才更應該清楚地認識到其所帶來的挑戰。而這種挑戰是無法避免的，因爲人工智能的發展本身就是人類社會發展的根本趨勢。
（1）人工智能將在很多領域取代人類
Alphago在4：1戰勝人類圍棋高手，就已經意味着人類在學習以及決策能力上不如智能機器人。Alphago之所以能夠戰勝人類，就在於其出色的學習能力。它能名快速觀摩大量棋譜，並通過自我對弈產生的經驗，而擁有優於人類的決策能力。柯潔在輸給ALPHAGO後就表示：“上一次(AI)很接近人，現在越來越接近圍棋上帝了。”
可見其自我成長能力多強大。
不可避免的，AI將在衆多領域取代人類，這也就意味着將有大量下崗。人類將被近做出轉型，從事其它AI無法企及的工作。
（2）人工智能對於這個世界的理解與人不同
人工智能對這個世界有理解嗎？答案當然是肯定的。人工智能會對這個世界有理解，而其理解是源於數據的。這點與人類截然不同。這就不可避免地在很多方面的決策上，人類會與AI產生分歧。
（3）人工智能是否有自我意識
這點也是人類最爲擔憂的。在這方面的科幻影劇層出不窮，比如《黑客帝國》《普羅米修斯》《終結者》。
如果人工智能具有了自我意識，是否意味着將會背判人類？是否意味着AI將成爲地球上新的物種？
凡事預則立不預則廢。
在當前社會不斷智能化進程中，對於人工智能所存在的任何錯誤要及時做出修正，並對其各種功能所產生結果要做出預判。另外，
要成立補救措施。《聯合國商業與人權指導原則》就有規定，應爲侵權行爲提供儘可能的補求措施。人權甚於一切。
（1）當違權行爲是由機器和算法而非人類決定導致時，要保證補救；
（2）當違權行爲是由機器和算法判斷時，要提供當事人儘可能多的申訴機會；
（3）必須提供一切可以否定AI決策的權力。