核心提示:近日,美军专家建议为军事机器人设定道德规范,它们已经足够聪明,甚至最后可能展示出超过现代士兵的认知优势。专家警告说机器人程序可能发生变异,整个世界都有可能毁于他们的钢铁之手。
美军操控的军事机器人
美军正在操控军事机器人
资料图:美军研制的“魔爪”军用机器人
美军专家警告:机器人程序可能发生变异,建议为军事机器人设定道德规范,否则全人类将付出生命代价。
毫无疑问,未来战争中,自动机器人士兵将成为作战的绝对主力。但是美国海军研究室帕特里克·林博士近日在关于机器人士兵的研究报告《自动机器人的危险、道德以及设计》中,对美国军方使用机器人提出警告,建议为军事机器人设定道德规范。研究人员认为,必须对军事机器人提前设定严格的密码,否则整个世界都有可能毁于他们的钢铁之手。
军事机器人已足够聪明
报告中表示,为军事机器人设定道德规范是一项严肃的工作,人类必须正视快速发展的机器人,它们足够聪明,甚至最后可能展示出超过现代士兵的认知优势。
帕特里克·林博士在报告中说:“现在存在一个共同的误解:认为机器人只会做程序中规定它们做的事情。可不幸的是,这种想法已经过时了,一个人书写和理解程序的时代已经一去不复返了。”林博士说,实际上,现在的程序大都是由一组程序师共同完成的,几乎没有哪个人能完全理解所有程序。因此,也没有任何一个人能精确预测出这些程序中哪部分可能发生变异。
如何能够保护机器人士兵不受恐怖分子、黑客的袭击或者出现软件故障呢?如果机器人突然变得狂暴,谁应该负责呢,是机器人的程序设计师还是美国总统?机器人应该有“自杀开关”吗?林暗示说,唯一解决这些问题的办法就是提前为机器人设定“密码”,包括伦理道德、法律、社会以及政治等因素。
警告程序师不要急于求成
报告还指出,现今美国的军事机器人设计师往往急于求成,常常会将还不成熟的机器人技术急匆匆推入市场,促使人工智能的进步在不受控制的领域内不断加速发展。更糟糕的是,目前还没有一套控制自动系统出错的有效措施。如果设计出现错误,足以让全人类付出生命的代价。
设计师的这种心理原因可能与美国国会的命令有关。美国国会规定:到2010年前,三分之一的“纵深”打击行动必须由机器人完成;到2015年前,三分之一的地面战斗将使用机器人士兵。
机器人军团正在组建
成本是士兵的10%,可降低士兵伤亡率达60%至80%。
目前,一些国家正在组建机器人部队。一些军队的机器人已开始执行侦察和监视任务,替代士兵站岗放哨、排雷除爆。英国谢菲尔德大学计算机系教授夏基认为,机器人的成本仅是士兵的1/10,它替人类厮杀疆场的场景,将有可能在10年内变成现实。目前,世界已在不知不觉中滑进了机器人军备竞赛;而研制出能够决定在什么时候以及向谁动用致命武力的机器人,也许就在今后10年之内。
数千机器人服役美军
2004年美军仅有163个地面机器人。2007年则增长到5000个,至少10款智能战争机器人在伊拉克和阿富汗“服役”。
部署到阿富汗的智能机器人“赫耳墨斯”主要用于探穴钻洞,它身上安装有两个照相机,能爬进漆黑洞穴并向外发送图片;美军机器人“剑”在伊拉克战场更是神通广大,它能轻易通过任何阻碍,备弹200发,装备一挺经改造的M249型机枪,射速高达1000发/分钟,火力强度足以与一挺重机枪媲美;而“背包”机器人则能在巷战环境中捕捉、分辨反美武装狙击手的细微动静;“嗅弹”机器人能灵敏地嗅出伪装起来的爆炸物;名为“仿生苍蝇”的机器人则可做一些复杂的手术……