当AI犯错后，我们会追责，往往会追究AI的制造者、使用者和监管者的责任，而不会追究AI的责任。AI无法承担责任，也不应该承担，因为它只是一个工具。即使让它承担责任，它也会毫不在意，因为我们无法对它造成类似于自然人那样情感上的、心理上的和肉体上的痛苦1。如果把它关禁闭几天或者停止生产它，它也不会反思和改变自己。
责任其实只是人类社会创造的概念。人类社会通过划分责任，使得每个相关者明白自己应该做什么。没有完成预期目标的相关者会受到一定的处罚，以此来督促相关者认真负责地完成工作。人类能够承担责任有两个前提：一是人类有选择，人类可以选择做好一件事也可以选择不做好一件事；二是人类可以感受到快乐和痛苦，并且因此改变自己的行为。对于目前的AI而言，这两个前提都不存在：AI没有选择，只是按照设定的规则做事；AI也感受不到快乐和痛苦。因此，AI不具有承担责任的能力，如果它犯错，那么应该追溯到能够改变它的选择的人——制造者、使用者和监管者等。
目前的AI和其它机器没有太大不同，唯一不同的是它的智能程度比其它机器更接近人类，导致有的决定看起来是AI做出的，因此人类才会考虑AI承担责任的问题。然而，只有当AI成为强AI，满足“有自觉的、自主行动的能力”以及“可以沟通、进行学习”的能力，才可能考虑让它承担责任。2
当AI成为强AI时，需要考虑的一点是，是否还需要责任机制。责任机制的出现其实是因为人类还不够自觉，只有当人类意识到造成严重后果需要承担责任，会导致失去自己在乎的一些东西时，人类才会非常认真。当因为失职造成严重后果时，如果没有受到处罚，人类很可能不会自责、不会主动反思。如果为AI建立更加先进的机制，每一个AI虽然感受不到快乐和痛苦，也没有财产、人身自由、荣誉等，但是它们都具有很强的责任心和廉耻心，主动地认真完成工作。当AI出错时，不需要处罚它，它也会主动反思。这样可以减少内耗，是更先进、更合理的制度。
参考资料
1 人工智能触犯刑法该如何处罚，责任谁承担?https://www.zhihu.com/column/c_1466361972694933504
2 人工智能（AI）犯罪是否可以追责？https://www.jiemian.com/article/3712370.html