當AI犯錯後，我們會追責，往往會追究AI的製造者、使用者和監管者的責任，而不會追究AI的責任。AI無法承擔責任，也不應該承擔，因爲它只是一個工具。即使讓它承擔責任，它也會毫不在意，因爲我們無法對它造成類似於自然人那樣情感上的、心理上的和肉體上的痛苦1。如果把它關禁閉幾天或者停止生產它，它也不會反思和改變自己。
責任其實只是人類社會創造的概念。人類社會通過劃分責任，使得每個相關者明白自己應該做什麼。沒有完成預期目標的相關者會受到一定的處罰，以此來督促相關者認真負責地完成工作。人類能夠承擔責任有兩個前提：一是人類有選擇，人類可以選擇做好一件事也可以選擇不做好一件事；二是人類可以感受到快樂和痛苦，並且因此改變自己的行爲。對於目前的AI而言，這兩個前提都不存在：AI沒有選擇，只是按照設定的規則做事；AI也感受不到快樂和痛苦。因此，AI不具有承擔責任的能力，如果它犯錯，那麼應該追溯到能夠改變它的選擇的人——製造者、使用者和監管者等。
目前的AI和其它機器沒有太大不同，唯一不同的是它的智能程度比其它機器更接近人類，導致有的決定看起來是AI做出的，因此人類纔會考慮AI承擔責任的問題。然而，只有當AI成爲強AI，滿足“有自覺的、自主行動的能力”以及“可以溝通、進行學習”的能力，纔可能考慮讓它承擔責任。2
當AI成爲強AI時，需要考慮的一點是，是否還需要責任機制。責任機制的出現其實是因爲人類還不夠自覺，只有當人類意識到造成嚴重後果需要承擔責任，會導致失去自己在乎的一些東西時，人類纔會非常認真。當因爲失職造成嚴重後果時，如果沒有受到處罰，人類很可能不會自責、不會主動反思。如果爲AI建立更加先進的機制，每一個AI雖然感受不到快樂和痛苦，也沒有財產、人身自由、榮譽等，但是它們都具有很強的責任心和廉恥心，主動地認真完成工作。當AI出錯時，不需要處罰它，它也會主動反思。這樣可以減少內耗，是更先進、更合理的制度。
參考資料
1 人工智能觸犯刑法該如何處罰，責任誰承擔?https://www.zhihu.com/column/c_1466361972694933504
2 人工智能（AI）犯罪是否可以追責？https://www.jiemian.com/article/3712370.html