A-A+

英国正式颁布机器人道德标准:不许伤害、欺骗和令人成瘾

2016年09月23日 奇趣世界 暂无评论

艾萨克·阿西莫夫(Isaac Asimov)曾在他的科幻小说里描述了规范机器人行为的三定律,包括:不能伤害人类、服从人类命令和保护自己。

英国正式颁布机器人道德标准:不许伤害、欺骗和令人成瘾

现在,英国标准协会正式发布了一套机器人伦理指南,比阿西莫夫三定律更加复杂和成熟。我们的社会已经到了要给机器人制定行为规范的时候了,这不禁让人产生一种科幻与现实交织的奇妙感觉。 英国标准协会(British Standards Institute,简称 BSI),是有着 100 多年历史的英国国家标准机构,在世界范围内具有很高的权威性。这个伦理指南的全称是《机器人和机器系统的伦理设计和应用指南》(以下简称《指南》),主要针对的人群就是机器人设计研究者和制造商,指导他们如何对一个机器人做出道德风险评估。最终的目的,是保证人类生产出来的智能机器人,能够融入人类社会现有的道德规范里。 这个标准的文件代号为 BS8611,发布于 9 月 15 日英国牛津郡的 “社会机器人和 AI ”(Social Robotics and AI)大会上。西英格兰大学机器人教授 Alan Winfield 表示,这是业界第一个关于机器人伦理设计的公开标准。 文件内容虽然用词枯燥,但是里面所描绘的场景,简直跟从科幻小说里蹦出来的一样。机器人欺骗、令人成瘾、具有超越现有能力范围的自学能力,这些都被列为危害因素,是设计人员和制造商需要考虑的。 《指南》开头给出了一个广泛的原则:机器人的设计目的不应是专门或主要用来杀死或伤害人类;人类是负责任的主体,而不是机器人;要确保找出某个机器人的行为负责人的可能性。 《指南》也聚焦了一些有争议性的话题,例如,人类与机器人产生情感联系是可以的吗,尤其是当这个机器人本身设计目的就是为了与小孩和老人互动。

标签: