来信

亲爱的德·加里斯教授：

我很荣幸地作为一名听众聆听了您在墨尔本大学计算机系做的演讲。

和您一样，我认为我们应该去认真思考随着“人工智能”的出现而带来的各种各样的可能。显然，我不知道未来会在技术、政治，或纯哲学上带来些什么。但是，我预想了一个和您预想的世界末日画面有些不同的场景：不是迅速地被超级人工智能机器大大超越，我们可能发现人工智能机器正逐步溶入人类的生命形式中，从而被认为是我们中的一员，并且从长期来看，发现拥有“人类的”身体—— 即智人的身体—— 对于成为人类不是那么的重要。一句话，我们将逐渐发现它们正在变成我们而且我们也在变成它们。

回答

我同意，某些人希望变为半机器人并且和其他具有相似意向的半机器人和睦相处，它们都是处于变成高级人工智能机器的转型中。但是这个观点，即每个人都想要这样做，同样是幼稚和不现实的。思考一下，如果人类要变为半机器人，从定义上意味着，在某种程度上可能要通过添加高科技成分来改变他们的大脑，这将改变其行为。地球主义者会对这些半机器人有怎样的反应呢？年轻的妈妈们会接受她们的孩子被“改良”吗？事实上，大多数母亲们不是对此观点持排斥态度吗？是不是大多数母亲会觉得她们的孩子在某种意义上已经变成了“怪物”，或者从外观上，或者是某种看不见的移植，成长的小孩在某种层面上似乎还是不同的，以一种非常的令人不安和非人类的方式存在？

地球主义者将不信任半机器人，并且把它们推向宇宙主义者。甚至很有可能，半机器人会使很多宇宙主义者重新考虑自己的宇宙主义观点，并且回归到地球主义。作为结果，这可能会在宇宙主义者的领地内产生一些现实问题和更大的复杂性。半机器人可能需要和宇宙主义者结盟，如果它们希望更多的人类接受它们。

我看不到“它们变成我们以及我们变成它们”。我只看到了不信任、憎恨，以及从长远观点来看的战争。实在抱歉说得如此直接，但我认为这样更现实。