奇点与超市里的骑士

我最喜欢用来描述残酷认知失调的隐喻——当奇点真正到来时我们很可能会经历的那种——就是“超市里的骑士”。不过我更喜欢用“骑士”（chevalier）这个词，所以接下来我会一直使用这个说法。

试着想象以下场景：一位中世纪骑士，在如今德国所在的土地上，骑着马，全副武装，头戴头盔，手持大剑。年份是1450年，我们的骑士正冲入一场与同样武装的邻居之间的小型战斗。

但随后发生了意外。时空连续体中的一次短暂短路，把我们的骑士快进到现代，但地点完全相同。当然，现在那里已经变成了一家超市。

灯光。闪亮的货架上摆满了成千上万的小型彩色物品。肉类区附近的寒冷。电视屏幕上循环播放着女性面孔的广告，她们说着略微相似的语言，却吐出骑士听不懂的词语。

此时此刻，可以说我们的骑士彻底迷失了。他不知道光是如何产生的（他的认知里没有“电力”概念），不知道建筑物里的寒冷是如何制造的（没有“冰箱”概念），不知道货架上的小包装是什么（对他来说，“化学”更接近炼金术），也不知道远程通信是怎么回事（“电视”对他而言根本不存在）。

他仍然可以四处走动，但这个世界对他而言几乎充满敌意。

我们尚未进入奇点

现在回到当前的 X 时间线，那里每个人都在高呼我们已经拥有 AGI，已经进入奇点。世界将永远不同。这改变了一切。

但事实真的如此吗？

我们是否正经历着与超市里的骑士相同的认知鸿沟？我并不这么认为。世界仍在照常运转，只有极小一部分人让自己陷入了与 AI 相关的精神错乱。

我们目前所做的，只是将大量计算塞进微小的数字产物中，而这些产物不过是极其先进的预测机器。你给它们设定一个预期状态，它们就能循环运行，直到或多或少达成那个状态。我们只是造出了非常优秀的编程机器。

所有这些对“AGI”和“奇点”这两个词的不遗余力的媒体宣传，不过是新实验室持续不断的营销活动，无论好坏，它们都只想为投资者赚钱。

在我看来奇点是什么样子

当整个环境，而不仅仅是计算机，发生如此深刻的改变，以至于我感觉自己像超市里的骑士时——对我来说，那才是奇点（或者如果你更喜欢这个标签，也可以叫 AGI）。

以下是一些例子：

• 星际旅行不会因为宇宙辐射而破坏我们的身体，而且能在合理的时间内完成。期望从纽约到火星的旅行时间，与现在从纽约到东京的时间相同。我知道这现在听起来难以想象。
• 无处不在的智能，不仅存在于计算机中——这意味着，是的，我期望能和我的烤面包机对话，并且期望它能理解我的意思。
• 通过 3D 打印实现对环境的完全控制：如果我的烤面包机坏了，或者行为异常，我可以直接在家里打印／制造一个新的。
• 生理上的永生，即我们的身体在生物学意义上不再衰老（仅这一点就需要大量科学突破，以至于我现在很难理解——完全是骑士在超市的状态）。

当然，我们终将到达那个时刻。但我相当确信，奇点不会在未来 6 个月内到来。