机器人唯一定律:促进人类繁荣发展

作者:Pallab Ghosh 来源:中国日报网
2017-09-05 15:58:01
分享

管理好智能机器,无需阿西莫夫的“机器人三定律”,只要一条首要原则就够了。

机器人唯一定律:促进人类繁荣发展

科幻小说家艾萨克·阿西莫夫曾写过用来控制智能机器的“机器人三定律”:机器人不得伤害人类,或因不作为使人类受到伤害。除非违背第一定律,机器人必须服从人类的命令。除非违背第一及第二定律,机器人必须保护自己。科幻情节变成现实已是常有的事。英国皇家学会和英国国家学术院发布的一份报告指出,要管理这些今后跟我们生活在一起的智能机器,不需要三定律,只要一条首要原则就够了:“促进人类繁荣发展。”

英国皇家学会科学政策咨询小组的主席之一奥托琳·莱瑟教授指出,人类繁荣是管理智能系统的关键。她告诉BBC:“人类繁荣这个词汇压缩表达了我们想说的话。人与社会的繁荣应该被放在第一位,我们认为阿西莫夫所说的三定律其实就可以总结为这一句话。”

机器人唯一定律:促进人类繁荣发展

艾萨克·阿西莫夫

这份报告指出,我们需要一个新的体系来确保智能机器服务于人类,而非控制人类。报告提到,民主监督制度对于规范自主学习系统的发展至关重要。如果没有民主监督制度,这些智能机器可能会造成潜在危险。

这并不是在警告我们机器会奴役人类,至少现在不是。但当这些能独立学习并作出决策的系统出现在家中以及一系列商业和公共服务场所时,它们便有机会做出很多不好的事情。

同时,该报告还呼吁人们对机器保持兴趣。游说团体TechUK的副总经理安东尼·沃克是该报告的作者之一。他认为,这些智能系统的发展不能仅靠技术标准来管理,还应被道德和民主价值观所约束。他说:“这些技术会带来很多好处,但前提是公众必须对它们有信心,相信这些系统的构建是经过全面考虑并且管理得当的。”

上一页 1 2 下一页

分享
标签:

推荐