阿西莫夫作品改编电影《钢穴》剧照
阿西莫夫时代
这份报告提出了一种全新的管理方法。它建议专家组成一个“管理机构”,同时利益相关各方建立一个道德框架来约束人工智能的发展。
报告提出条四个高级原则,以促进人类繁荣:
保护个人和集体权益确保透明度、责任感和包容性寻求良好实践,在成败中学习深化现存民主治理模式阿西莫夫时代已经到来。我们迫切需要一种管理机器的新方法。
很多公司都在研制无人驾驶汽车
例如,自动化汽车的发展让我们思考,应如何优先考虑人类安全。当车辆必须在乘客和行人的安全中取其一时,又会发生什么?事故发生时,还有一个责任归属的问题。到底是车主的错,还是机器的错呢?
另一个例子是个性化智能教学系统。这类教学系统可以识别学生的强项和弱项,然后进行针对性教学。如果没有合适的指导原则,这样的自主学习系统能进行教学吗?我们怎样才能确保机器对孩子的教学方法让自己满意呢?正如我们也很担心教师的教学方法一样。
这些问题并不能依靠开发系统的技术公司来解决。这是我们所有人都应该考虑的问题。正是由于这个原因,报告才指出,公司不能以商业机密为缘由隐瞒智能系统的各种细节。只有把这些细节公之于众,出现问题时人们才能及时发现和改正。
漫画:机器人三定律
现行的智能系统管理法规都很关注个人数据。但是,这些法规对于我们日常泄露的个人数据没有任何保障。个人信息的泄露包括对手机的跟踪,购物偏好和上网偏好等。
有些系统可以将上述公共数据整合在一起得到个人资料。这些资料可能被保险公司用于设定保险费,或被雇主用来评估员工是否适合某类工作。
确实,这些系统可以带来许多好处,但如果不加以控制,我们的很多人生机遇都会被机器所控制。
莱瑟教授指出,关键在于管理方法必须具有针对性。她告诉BBC:“预测亚马逊该为人们推荐哪些书的算法,与医学情境下诊断疾病的算法是非常不同的。所以,没有针对性的整体规划型算法是不明智的。”
《机器管家》剧照
英国保守党在其宣言中承诺发布数字宪章,并创建数据使用和伦理委员会。英国数据部部长马特·汉考克告诉BBC,正确规范社会对数据的使用是“至关重要”的。
他说:“数据管理,以及高效并合乎道德地使用数据,对未来的经济和社会发展十分重要。我们正致力于继续与行业紧密合作,以取得一定的成果。”
从根本上说,智能系统只有在取得人类信任并受到监管的情况下才会快速发展。若是未能满足这一条件,智能系统促进人类繁荣的巨大潜力永远都无法完全实现。
原文选自:BBC
译者:欧阳贝妍
编辑:钦君
阅读更多文章,请关注“文谈”公众号:cdwentan