最近,网络盛传,深圳高交会上发生“全国首例机器人伤人事件”,名叫“小胖”的机器人突发故障“杀伤力爆棚”,在没有指令的情况下自行打砸展台玻璃、砸伤路人,一位路人全身多处划伤后被担架抬走。不过随后,涉事企业澄清,事故原因是工作人员的误操作。
与此类似,去年德国大众工厂发生“机器人杀人事件”,最终发现事故原因是安装机器人和机器臂的专业人士,在工作期间违反了安全规定。
将人工操作失误误解为“机器人伤人”,不经意间表露出人们对技术飞速发展带来的不确定性的担忧。
自科学史有记载以来,科技的进步,常伴随着警觉和忧虑。上世纪80年代末,基耶斯洛夫斯基的电影《十诫》直白地呈现了技术的“报复”。电影中,小巴伯的父亲迷恋电子技术,相信电脑方程式运算可以解决一切问题。当小巴伯按照父亲的教导,在滑冰之前问电脑“冰面厚度是否可以撑住自己”时,电脑的回答是“YES”。而正当巴伯欢快玩耍时,冰面破了,巴伯葬身湖底。
科学让人类得以认识世界,技术让人类得以改造世界,由此,人类一步步从必然王国走向自由王国,获得随心所欲的能力和资本。然而,世界是复杂系统,系统中一个要素的变化,会引发意想不到的连锁反应。
除草剂的发明,减少了农民的劳动投入,却带来了生态危害;抗生素的使用,拯救了濒临死亡的生命,却可能促成超级细菌的诞生;移动互联的推广,让世界触手可及,却也让近在咫尺的人丢失了交谈的欲望。
技术的进步是人类文明的光辉,而有光的地方必有阴影。20世纪中叶,经济飞速发展,技术不断进步,人类几乎成为世界的主宰。正当世界沉迷于技术的乐观主义时,爱德华·墨菲泼出了一盆“冷水”:凡是可能出错的事有很大几率会出错。
但是,这是技术的错,还是人的错?这一次,机器人该说“对不起”吗?
在笔者看来,技术无罪,因为技术的“报复”往往是在人类不合理利用的条件下发生的。
我们不能因噎废食,因为人在使用技术时犯了错,就将罪责强加于技术本身,遏制技术的研发,更不能因此纵容伪科学甚至反科学的论调。
如今,我们处在又一轮技术狂欢中。面对发展中的技术,我们应当心态开放,宽容失败,在促进技术发展的同时,合理约束技术应用;让人类在受益于技术进步的同时,将技术的负面效应或“阴暗面”控制到最小限度。
未来,与技术和谐相处,将是人类文明发展的一节必修课。正在向自由王国大步迈进的我们,有必要理解和学会如何制定技术使用的细则规矩,合理谨慎地使用技术。