当地时间上月29日,美国加利福尼亚州旧金山市监督委员会批准了旧金山警察局(SFPD)提出的“在紧急情况下允许使用杀手机器人”的要求。加利福尼亚以作为美国国内进步倾向的州而闻名,旧金山是大型科技企业总部密集的硅谷核心城市。
当地警方表示:“在无法想象的集体暴力日常化的情况下,杀手机器人将成为拯救无辜生命的最后手段。仅限于极限情况,经过警察署长等高层人士的批准,无需安装枪支等武器,只发挥通过遥控单纯投递(delivery)爆炸物的作用。”但某市民团体批评称:“部署爆炸物机器人是减轻人类对杀人责任的措施。”引发了反对的舆论。
在机器人和AI的相关伦理成为议题的情况下,旧金山市的决定被认为是“机器人随时可以杀人”的信号。不仅是当地媒体,BBC、半岛电视台等外媒也将这种机器人称为“杀手机器人”。市民团体指出:“即使只在极端情况下使用,只要开始允许一次,杀手机器人必定从一开始就被当做容易的选项。”此外,还有人担心像黑人一样的有色人种会成为其主要目标。现代汽车的子公司美国波士顿动力公司等6家主要机器人制造商今年10月宣布“不会对尖端机器人武器化”,但在战场上,暗杀用无人机已经得到了积极使用,伦理问题仍在经历阵痛。
其实发挥机器人大脑作用的AI正在以惊人的速度发展。国际学术杂志《科学》最近报道,曾制造了AI围棋“阿尔法围棋”的谷歌Deep Mind凭借最适合高难度战略棋盘游戏“西洋陆军棋(Strategos)”的AI“Deep Nash”实现了世界最高水平。西洋陆军棋游戏的目标是以自己掌握的不完整信息为基础,找出对方的旗帜。在互相不了解对方真实身份的情况下,很多人认为这是不仅需要收集信息,还需要欺骗对方的高难度游戏,对AI来说“有些难做到”。但在学习了55亿个游戏数据后,Deep Nash超越了众多人类高手,以84%的西洋陆军棋线上联赛胜率位居历届比赛的世界第三,展现了惊人的实力。IT业界相关人士表示:“AI专家也一直担心武器和AI相结合的自主武器体系会对人类造成巨大威胁。”