奇点很近

这篇文章的副标题是“为什么我们都否认机器人末日”。 我之所以这样说，是因为我认为整个社会可悲地、完全地、完全地没有为可以感知的人工智能做好准备。 我相信奇点会比人们想象的更早到来，它会引起巨大的不安——无论好坏。

考虑一下许多人的信念，即我们拥有一个无法测量和无法定义的灵魂，正是这个灵魂将我们作为人类与无感知的物体和动物区分开来。 有些人还认为灵魂是上帝的礼物。 根据我的一些朋友的说法，AGI 是不可能的，因为“人类不是上帝”，机器人没有灵魂。 Ex Machina 中的 Caleb 解释说，对于这些人来说，消除人与机器之间的界限就消除了神与人之间的界限。

这并不是说 AGI 会摧毁或削弱宗教。 它甚至可以在极端情况下用于加强某些教派，如 HBO 的“狼群崛起”中所见。 宗教已经存在了几千年，我相信它会在未来的许多千年里继续存在。 我预测，一旦第一个 AGI 发布，一些宗教人士将经历很多认知失调。

来源和详细信息：
https://mkaic.substack.com/p/the-singularity-is-very-close?s=r