「亚马逊语音助手劝主人自杀」事件出现，人工智能的伦理应该由谁监督？

「亚马逊语音助手劝主人自杀」事件出现，人工智能的伦理应该由谁监督？

看了亚马逊的回应，判断应该是一场由于算法机制问题而导致的乌龙，但仍旧引发起不算小的讨论，看起来，当代人还是对于人工智能应用落地的潜在隐患存在一定的担忧，毕竟 AI 与科技发展如此迅猛，谁都不能保证在漫长的未来会出现什么问题。

无数赛格朋克电影已经以影像化的方式预示了这种人类与机器「共生」的多样未来，这也是科技主义和哲学学者一直在探讨的议题。

在这里，主要讨论以下三个方面：

我们应以何种方式面对「担忧与恐惧」？

基于问题「人工智能的伦理应该由谁监督」，其实一种更为开阔的思路应该是，比起讨论「人类需要如何监督人工智能」这种主客观清晰的预设（人为主，AI 为客），讨论「两者如何和谐共生共处」的流变关系本身更为重要。

当代哲学家与女性主义理论家 Braidotti 在 2013 年出版的 The Posthuman 书中指出，后人类主义不应停留在人文主义仅关于人的危机的批判之中，而是更应放眼于持续流变的「关系」中，将其当做主体，从这样的角度反思认识自身，人才可能看待自己的有限性（不仅不具备「绝对理性」，甚至并不「独立自主」）以及与其他物、物种之间的互相依存性。

这样说来，这种「其他物、物种」已经不再局限于 AI，而是一切技术与除人之外的物体总和。

而「后人类」问题也并非简单的技术达尔文主义对人性的侵蚀问题，而更关乎人类与外部世界、人与物、人与他人、人与社会之间的关系变迁。

这里就需要提到一个「后人类」的概念，1985 年，美国科技与社会研究学者（同时也是女性主义学者）Donna Haraway 提出「赛博格宣言」，开放了对于「传统自由人文主义主体」（即大写的人）的挑战。与「赛博格宣言」类似，「后人类」思考的是一种「界限模糊感」，不在于人与机器之间是否真的能够接合，而是在人与非人界限的崩溃与模糊中，持续探索另一种生存的可能。

所以，「后人类」实际讨论的就是：「我们如何可能不再是人？」这里的「人」指的自启蒙运动起被定义的「理性自主的主体」。

那么，这样的「另类后人类主体」到底会是什么呢？社会学家们从「双重去中心化」的角度尝试去勾勒出这个赛格朋克时代下人类的形象，简单来说，「双重去中心化」一是去除「人类中心主义」，二是跳出以「身体与意识」为中心的个体化主体观。

（是不是觉得非常拗口！）

实际上非常简单，第一就是人类不要以居高临下的姿态看待众生，第二是组成主体的应该是人与那些「人的延伸」，就比如你在写作业，完成作业的不仅只有你，还有笔和本，这是你们共同协作的成果。

从这个角度来说，所谓的「自我」是各类「工具」持续变动的结合体，是一个「混杂主体」，在其中并没有一个「自我所在」的核心，因为在不同的「工具使用」脉络中，它自身的样态也不断地改变，它既推动中介的转换，也一次又一次地被卷入其中。

（是不是又觉得非常拗口！）

拿技术发展翻译一下，就是人类升级技术，技术又反过来作用于人，而人并不是其中的主体，「人与技术」的流变关系才是主体。

回到 Braidotti 所说的，对于后人类主题的探索（例如对 AI 伦理的思考）也就是在探究「另类主体」的可能性，我们其实是在问：该如何在现代的掌控欲望（例如标题中提出的应该如何监督）、科学客观主义，以及对于自然的「绝对支配」之外，寻求另一种生存与全球化的可能。

只有认识到自身总是处于这样的关系之中，人类才会更加谦卑的谨慎的考量各种行动后果与责任。

人类「担忧与恐惧」的本质是什么？

孙凝翔老师在去年谈到基因编辑婴儿事件的时候，写了一段话，大概能很好的解释这个问题：

归根结底，我们恐惧的并不是那些技术本身，而是失去一个替代性的世界的可能。

「技术与人」的关系是否被夸大？

「后人类」问题的确更多将关注点着眼于「技术与人」：基因编辑、人工智能、赛博身体......然而从历史发展的角度来看，今日的技术虽然突飞猛进，但依然远不及工业时代与二十世纪之初的世界；今日的电子领域虽然蓬勃发展，但基础学科，如数学、物理、生物已遇到了无可忽视的瓶颈；今日的创新虽然无所不在，但是否大多都是依附于商业，而非真正改变人来的重大创造呢？因此，科幻作品中常见的「超级人类」，当代人恐惧忧虑的「超级 AI」设定，在技术意义上，怕是离我们还有相当一段距离（如同这次亚马逊音箱劝人「自杀」只是算法乌龙而已）

那么，除去那些「无谓而过度的杞人忧天」之外，我们到底要以什么心态面对未来的流变？

作为收尾，新京报书评周刊这段写的非常好：

（其实还有一个有意思的点：为什么「后人类」学者也都是女性主义理论家呢？）