英国专家最近发出警告,随着世界上多个国家不顾法律和道德后果加紧开发军用机器人,一场机器人军备竞赛正在展开。
据《新科学家》杂志网站日前报道,英国谢菲尔德大学科学家诺埃尔·夏基计划在英国知名国防智库机构“皇家三军研究所”发表一篇演讲,阐述“机器人大战”的前景和带来的忧虑。
根据英国媒体提前得到的演讲内容,美国在伊拉克已经部署了4000多个半自动机器人。美国国防部在去年12月发表的《无人系统路线图》中建议,到2010年前耗资40亿美元研制机器人武器。此外,一些欧洲国家以及加拿大、韩国、南非、新加坡和以色列等国也在开发军用机器人技术。
夏基说,他最担心的是,机器人今后将自己决定何时“扣动扳机”,而“机器人对于为什么要这样做没有判断能力”。
点评
岂能让机器人成为人类杀手?
机器人已经登陆战场甚至即将举枪向人,成为人类杀手的消息,无疑是机器人发明者——人类自己的悲哀。
2004年的好莱坞大片《机器公敌》是根据著名科幻作家阿西莫夫的科幻小说改编的,而正是阿西莫夫早在1940年就提出了著名的“机器人三原则”:一是机器人不能伤害人类;二是机器人要听从人类指挥,除非违反第一条;三是机器人要保护自己,除非违反第一条或第二条。这三条原则一直被奉为机器人研发的根本宗旨,即便那些担当侦察、勘探或爆破任务的军用机器人,过去也被视为遵循这三原则的典范。然而,携带武器可直接攻击人类的军用机器人的出现,却彻底颠覆了这三原则。
从技术上看,让机器人在战场上扮演冷血杀手的角色基本没有难题。关键问题在于,就连军备竞赛的积极参与者,也不得不权衡这样做的后果究竟是什么。去年就曾有媒体报道说,美国正在拟定《机器人战争准则》,希望机器人能根据战场上收集的各类雷达数据和情报把所有可能的行动分为“道德的”和“不道德的”。然而,战场上的情况瞬息万变,情报资料也可能有误,再完备的准则在混乱的战场上面对一条条生命,无疑都是废纸。
简单地说,阿西莫夫当年提出的规则是为了防止机器人伤害人类;而如今,人们要将机器人送上战场,即便确立了准则,也无非是决定在什么情况下杀害什么样的人而已。但只要机器人的枪口指向了人,那就势必成为人类的悲哀。
人类如果因为珍惜生命,而将机器人钢铁之躯放在战场上替代人类的血肉之躯,为何又要让机器人举起杀戮的屠刀?珍惜生命,就当让战争远离人类! |