人类对机器人的恐惧掩盖了我们面临的实际问题——人类的生活越来越多地由计算机算法所掌控。如果你相信一些人工智能观察者，就会知道人工智能的发展已经超过我们自己和机器本身的速度，继续以指数速率不断进化。
如果这是真的，那么我们会怎么样呢？在过去的几年里，从史蒂芬·霍金（Stephen Hawking），到伊隆·马斯克（Elon Musk），再到比尔·盖茨（Bill Gates），他们无一不曾为此高呼，警示我们应该更加关注超级人工智能的潜在威胁。然而，有人却以此敛财：Musk是一个致力于开发人工智能的组织，其背后有几个亿万富翁的支持，这些人宣称人工智能有益于人类。
但对许多人来说，这种恐惧是多余的。中国互联网巨头百度公司的首席科学家，来自斯坦福大学的吴恩达（Andrew Ng）说：“害怕杀手机器人的兴起就像担心火星人口过剩一样可笑。”
但是，这并不是说，我们越来越依赖人工智能不会带来真正的风险。事实上，风险已经存在了。
从医疗保健到金融，再到刑事司法，智能系统涉及了越来越多不同领域，我们生活中的一部分重要决策没有经过足够的审查就有了定论，这是非常危险的。更重要的是，人工智能可能会产生让我们猝不及防的连锁效应，例如改变我们与医生的关系，改变社会的治安方式。
在BBC未来栏目11月于悉尼举行的“世界变革理念峰会”上，我们会就这些问题进行了探讨。什么是人工智能？
很简单，机器能做一些需要人类智能的事：理解自然语言，进行照片面部识别，驾驶汽车，根据我们以前喜欢阅读的内容猜测我们可能还喜欢什么书籍等等。人工智能和机器的区别在于：机器是工厂生产线上机械臂被编程后对基本任务的一次又一次重复，而人工智能是通过试验和错误学习如何自己处理不同的任务。
人工智能是如何帮助我们的？
现在，人工智能的主要方法是机器学习，也就是训练程序挑选和响应大量数据中的模式，诸如识别图像中的面部特征，或者在棋盘游戏中走出制胜的一步。该技术可以应用于所有类型的问题。例如，利用计算机拍摄医学图像。谷歌的人工智能公司DeepMind正在与英国国家卫生服务机构合作一些项目。其中包括利用软件来分析患者的扫描片，诊断癌症和眼部疾病。
还有人正在通过机器学习捕捉疾病的早期症状，如心脏病和阿尔茨海默病。人工智能也被用于分析大量的分子信息、寻找潜在的新备选药物，这一技术的完善还有很长的道路要走。
事实上，机器学习很快将成为医疗保健必不可少的一部分。人工智能还可以帮助我们管理高度复杂的系统，例如全球航运网络。例如，悉尼博塔尼港集装箱码头的核心系统管理着成千上万个集装箱进出港口的运输状况，控制着无人区的自动化无人运输队。
类似地，在采矿业中，从大型无人驾驶矿用卡车上的初始运输到将矿石运到港口的货运列车，优化引擎越来越多地用于资源的调配。无论你在何处，人工智能都在工作，从金融到交通工具，它监控着股票市场的可疑交易活动，协助着地面和空中的交通管制。它们甚至帮助您清理收件箱中的垃圾邮件。然而，这只是人工智能的开始。
随着技术的进步，应用程序的数量也在增加。那么随之而来地会有什么问题呢？
与其担心未来会被人工智能掌控，不如降低我们对智能系统的过分信任和依赖。回想一下，机器通过软件发现数据中的模式进行学习。这些机器一旦习得，就会投入工作，分析未见的新数据。但是当计算机得出答案时，我们通常无法看到它是如何做到的。这就是症结所在了。
一个系统只不过与其所学到的数据处于一致水平。一个智能的系统可以了解哪些肺炎患者有更高的死亡风险，以便能通知他们及早入院。它可以轻易地将哮喘患者分类为轻度和重度。
这是因为在正常情况下，患有肺炎和哮喘病史的患者会直接接受重症监护，从而得到降低死亡风险的治疗方法。机器学习过程是：哮喘+肺炎=死亡风险降低。
随着人工智能的推出，个人信用评级、适合的工作、罪犯重新犯罪的机率都可以得到评估。但它们有时也会出错，情况可能会越来越糟。由于我们对人工智能输入了大量的数据，这些数据本身可能就完美，因此我们不应该期望所有的答案都是正确的。
认识到这一点是风险管控的第一步。人工智能的决策过程需要更加开放的审查环节。我们以为人类建立的人工智能会像我们一样聪明，但实际上，它们也像我们一样有不足之处。
原文选自：BBC
译者：邓寒雨 编辑：钦君
阅读更多文章，请关注“文谈”公众号：cdwentan
