我个人最认同物理学家与计算机科学家 Stephen Wolfram 的一个观点：“未来，AI将会从我们人类这里学习它们所能学到的，然后它们基本上将像自然界一样成为自我运行的计算系统，也就是有时候与我们互动而已”✨ AI 会对我们“做些什么”呢？就像大自然会对我们“做些什么”一样；AI 会消灭我们吗？大自然也完全可以消灭我们。以一种类似泛灵论的方式，我们可能会把意图归因于自然，但最终它只是“遵循其规则”并做它该做的事情 。。 即使 AI 可以自我提升成掌控一切的“顶级智能”，但在这个计算不可约的宇宙里，不会存在一个“万事皆通”的计算系统。新兴的生物学领域有一个核心结论：无论你指定了什么“成就”，在计算宇宙的某个地方总会有一个计算系统超越它，即 Wolfram在《一种新的科学》中提出的计算等效原则 t.co/QeHj9rieCu 最后，如果 AI 真从我们这里学到了一切，那么它们也必然会继承我们“求胜的冲动”，也许会导致它们挑战人类。这将是 AI 宪法最有意义的地方：定义一个超越 AI 的契约，让它们无法从人类的天性中习得这个能力，这样我们才能期待与 AI 共存，一起协同进化🤔