3. 有了电脑，就不需要人类了吗？
“随着电脑可以用来进行金融交易，人类已经被淘汰了。”
汤姆：与电子游戏不同的是，现实世界中，努力工作未必就会成功；这一点很不公平。也许令人震惊的是，越来越多的对人心理、生理甚至生活有利的环境，与企业和国家为成功所做的一切背道而驰。这样想来，你还会担心电脑全然取代人类吗？
卡尔：为写这本书我做了一些调查，在这一过程中，最令我不寒而栗的是一篇我引用的文章。这篇文章由一名作战军事家所著，内容是随着电脑越来越多的参与战争，人类可能不再发挥任何作用了。世事变迁如此之快，人类根本无法进行决策。只有电脑更新换代的速度够快，因此不可避免地，这意味着现在正向完全的机器人战争转变，在那里你通过无人机编程，让它们自己决定何时发射导弹，机器人士兵自己决定何时射击。
没有人类的未来？ （图源：华盖创意图片库）
我想，不仅战争如此，生活中的其他方面（如金融界）亦是如此。随着电脑可以用来进行金融交易，人类的确被淘汰了。
到那时，你不仅会失去人类智力的独特优势（即人类对自身行为的真正质疑能力，电脑并不具备这一能力），还会轻率地推进这些系统，认为决策的速度最为重要。然后你就会发现你回不来了，即使你发现它具有很多缺陷；一旦所有活动均围绕电脑开展，那么就不会留有后路，而人类也再不能介入其中。
汤姆：我确实在书中找到了有关可怕的自动化战争的篇章：从这个意义上说，将全自主系统引入战争的逻辑不可避免。而对我来说，有些恐怖的是，2008年的金融危机，上万亿美元打了水漂，所幸现在人们还对金融还可以三思而后行。战争却完全不同，坏事发生时，消失的并非美元，而是人命。
（图源：华盖创意图片库）
我还认为，本书中有一个观点与你的上一本书《互联网让我们变浅薄》相呼应：目前，人类在生物学上与成千上万年之前或多或少是相同的，那么突然生活在这个新环境中，会发生什么？在这个新环境中，各种产物发展激增的速度与人类的直觉和天性完全不符，以信息和算法形式的发明和及其影响传播速度也是快得惊人。
卡尔：科技，特别是软件，可以很快复制并扩散，这是事实；另一事实是，科技往往在竞争激烈的环境中发挥出作用。这可能是战争的角逐，或者是商业竞争，但只要任何实体一获得任何短期的优势，就会有几乎是压倒性的压力来推动科技向各种方向发展，因为没有人愿意处于劣势。
机器人有一天可能会让人们生活不再有挑战（图源：华盖创意图片库）
我认为，在一些情况下，我们很容易忘却自己是动物的事实：我们是一种在地球上经历了很多年代并逐渐进化得以生存的生物。人类的作用、满意度和满足感的很大一部分都是与处世经验（有独特的步调和速度）相关的。
所以，当你把自己（伴随生理限制和身体能力），与速度很快且精度极高的电脑相对立，我们可以非常轻松地说，好吧，“让电脑定义我们的经验”。但我们忽视的事实是，如果我们遵从电脑，最终可能会创造另一个世界，对此我们的经验真的并不充实。
