《生命3.0》经典语录

不过，还有一个有趣的法律争议是，要不要赋予机器权利。美国每年因交通事故丧生的人数达32 000人；假如无人驾驶汽车将死亡人数减半，汽车厂商很可能并不会收到16 000封感谢信，而是16 000起官司。那么，如果无人驾驶汽车发生了交通事故，应该由谁来负责呢？是它的乘客、拥有者还是生产厂家？法律学家戴维·弗拉德克（David Vladeck）给出了不同的*：由汽车自己负责！具体而言，他提出，应该允许甚至要求无人驾驶汽车持有保险。这样，安全记录良好的汽车型号所需支付的保险费就会很低，甚至可能比人类司机买的保险费还低；而那些马虎大意的厂商生产的设计糟糕的汽车型号只适用于高昂的保险单，进而催高了它们的价格，使其变得过于昂贵，无人想买。

想象一件事总比做成一件事容易，我们容易高估技术进步的速度。

所有效率最终归结于目的，所有目的最终归结于价值观，所有价值观最终归结于感情，所有感情最终归结于意识。有了意识，这个世界才有了好坏，才有了幸福，才有了意义。

我们的DNA赋予了我们一个目标——*，因为它“想要”繁殖，但现在我们人类了解了这个秘密，许多人选择避孕，这样就可以对目标本身保持忠诚，而不是忠诚于它的创造者或驱动该目标的原则。

随着技术变得越来越强大，我们应当越来越少地依赖试错法来保障工程的安全。换句话说，我们应当更加积极主动，而不只是亡羊补牢。我们应该投资人工智能的安全*研究，保*一次事故也不会发生。这就是为什么人类社会在核反应堆安全方面的投资远远超过对捕鼠器安全方面的投资。

通过在大规模的数据库中的训练，人工智能发现了词语中的模式和关系，而不用把这些词与现实世界中的东西联系起来。比如，它可能会用一个由几千个数字组成的数列来表征一个词语，而这个数列表示的只是这个词语与其他词语的相似程度。通过这种方式，它可能会总结出，“国王”和“王后”的关系与“丈夫”和“妻子”的关系类似。不过，它并不明白男*和女*是什么意思，甚至不知道在它之外还存在着一个拥有时间、空间和物质的物理实在。

宇宙可以轻易地毁灭人类，但事实是，宇宙通过我们人类才真正活了过来，并逐渐获得了自我意识，并非宇宙将意义赋予了有意识的实体，而是有意识的实体将意义赋予了宇宙。让有智能和意识的生命这束微弱的光，点亮这个冷漠荒芜的宇宙中无尽的黑暗，或许是我们的最高职责。

欧米茄团队建造的人工智能昵称叫“普罗米修斯”（Prometheus），它一天比一天强大。诚然，它的认知能力在社交技能等许多方面还远远落后于人类，但欧米茄团队竭尽全力让它在一个任务上表现超凡，这个任务就是编写人工智能系统。

第一，技术用需要更多技能的新职业取代旧职业，这有益于受过良好教育的人： 第二，布莱恩约弗森和他的合作者认为，从2000年开始，在公司的收入中，越来越大的份额进入了那些拥有公司而不是为公司*勤工作的人的口袋里。 第三，布莱恩约弗森和他的合作者认为，数字经济通常会让“超级明星”而不是普通人受益。

比如，它可以用纳米技术来小心谨慎地抹去研究者大脑（或计算机）中的有关记忆。