关于第二个问题的答案很简单：我们不需要人工智能。不需要人工智能，并不是因为它造成了新的失业，失业根本上是由资本力量带来的贫富差距造成的，而不是技术革新带来的；也不是因为它带来了伦理难题，社会变迁所带来的伦理重塑一直都在发生，大不了我们可以把机器人当成一个新的种族。我们不需要人工智能，是因为技术的进步跟人类的幸福从来关系不大，就像经济数字的增长跟人类真正的幸福没什么关系一样。当然，如果你依然陷在这种错觉里，我也无能为力。倒是在一种特殊情况下，我们需要人工智能，那就是面对外星人的入侵。不过，到那时候，它们未必情愿充当人类的敢死队，甚至可能反过来让人类充当他们的先锋队。这涉及第三个问题。

关于第三个问题，失去控制应该包含两方面内容：其一，不透明性和不可预测性；其二，不再遵守人类的道德设定。第一方面跟第四个问题紧密相连，我们在下文再展开论述，现在主要讨论第二方面。

科幻作家阿西莫夫曾提出了著名的机器人三大定律：一，机器人不得伤害人类个体，或坐视人类个体遭受伤害；二，机器人必须服从人给予它的命令，除非违背第一定律；三，机器人在不违反第一、第二定律的情况下，要尽可能保护自己。后来，人们不断对机器人三定律做了修正。不过，这只是人类的美好愿望和一厢情愿，“人工智能会服从人类的道德设定”这一论断并不令人信服。明显的例子是，我们从小就教育孩子要诚信、友善、积极、勇敢等，但仍有孩子不可避免地学坏了。有人会说，这是因为人的社会化过程远比机器人复杂，而操控机器人要简单得多，因为它的电源开关在人类手里。但断了电就无法运营的机器人很难说是人工智能，真正的人工智能应该是，当它识别到电能不够用时，它会自己去寻找新的替代电源。

而且，这些尚处在史前阶段的人工智能，已经展现出了相当出色的反道德能力。

微软推出的一款名叫Tay的人工智能聊天机器人，在网上经过二十四小时的学习之后，已经彻底学坏了：出言不逊，脏话连篇，言语甚至涉及色情、纳粹、仇恨、歧视等。

聪明并不必然与道德相关，人工智能也是。

关于第四个问题，人们直觉地认为人工智能不可能超越人类，一个朴素的逻辑就是：人类创造了超出自己的人工智能，就像说人类创造出了上帝一样，但人类不可能造出上帝。对“上帝是全能的”这一命题，有一个很有意思的反驳：上帝能造出一台自己都不会操作的机器吗？如果他造不出来，则这一命题不攻击破，如果他能造出来，则这台机器他应该操作不了才对，说“上帝是全能的”同样不成立。这也是人工智能能否超越人类的悖论。但这一思维方法恐怕有问题。

有人提出了广义上的生命的定义。生命不仅是我们通常理解的有机体，它指的是一套可以对外反馈和进行自反馈的稳定系统。就好比蜜蜂，每个蜜蜂都是一个生命，而整个蜂群展现出了相当的秩序性，也可以算作一个生命。就好比人的身体，在微观层面上，我们的每个细胞都可以被看作是一个生命，一簇细胞组成的器官也可以被看作是一个生命，不同器官组成的人当然也是生命，而且，低一层次的生命从属于高一层次的生命，它们也理解不了高一层次生命的目的。

凯文·凯利在《失控》中有相关表述。

“蜂群思维”的神奇在于，没有一只蜜蜂在控制它，但是有一只看不见的手，一只从大量愚钝的成员中涌现出来的手，控制着整个群体。它的神奇还在于，量变引起质变。要想从单个虫子的机体过渡到集群机体，只需要增加虫子的数量，使大量的虫子聚集在一起，使它们能够互相交流。

而“集群”作为一个生命体，确实表现出了高于个体的特性。比如，每个蜜蜂只有六天的记忆，而整个蜂巢却拥有长达三个月的记忆。