范建：对科技风险认识的三个误区

■范建

尽管目前已有对科技风险的大量研究，但仍然存在误区。中国科学院自然科学史研究所研究员、博士生导师刘益东通过提出“致毁知识”概念和“致毁知识研究模式”，突破流行的思维定式与研究范式，提出新问题和新思路。

误区一：“科技是双刃剑”把科技的使用者看成决定性因素

问：当说起科技风险和科技负面作用时，惯常的说法是“科技是把双刃剑”。您是搞科技战略研究的，如何看这个问题？

刘益东：所谓“科技是双刃剑”是一个很大的误区。它把科技的使用者看成决定性因素。这种分析是错误的。几百年来，人的修养和教育水平在提高，但道德水平变化不大。随着尖端科技的发展，即使多数人提高了道德水平，只要少数人，甚至个别人利用尖端科技为非作歹，照样可以造成毁灭性灾难。所以依靠提高人的道德水平来解决科技风险问题的思路是错误的。

问：最近热播的纪录片《互联网时代》认为技术是中性的：以枪为例，枪是中性的，枪没有错误，关键是扣动扳机的人。用枪可以去打劫，也可以用来保卫。您怎么看？

刘益东：这个思维定式根深蒂固地存在于人们头脑中。通过枪还引申到各种技术。比如他们认为互联网这个技术也是中性的，该片赞同技术的恶用还是善用取决于人而不取决于技术本身。我认为一个技术的出现，或者说一项知识的出现会诱使或迫使人去使用它，并不是你想不用它就可以不用。我们把科技比喻成一把砍刀，是砍人还是砍柴，是砍好人还是砍坏人，似乎由使用者来决定。但不要忘记，只要它是砍刀就会有人拿它去砍，当砍的威力大了，就只有毁灭而无善恶。就像原子弹一爆炸无论什么人，都一起毁灭一样。所以，技术或知识不是出现在真空里，而是在社会特定的结构中，人们是“面对科技，身不由己”。把科技比成一把砍刀太过简单，实际上科技是一个系统，它把人卷入其中，由不得使用者不使用它。之所以有“科技是把双刃剑”之说，一是直观易懂，二是不想追究技术及技术发明人的责任。因此“技术中性说”“科学中性说”一直是主流。这严重阻碍了人们对科技负面作用的认识。

误区二：“科学无禁区，技术有禁区”这种观念忽视了连锁效应

问：“科学无禁区”就是说探索多多益善。笼统地说我知道得多总比知道得少好吧。

刘益东：表面上看是这样，但实际上如果你知道了某些不该知道的东西，很可能就引来杀身之祸。人们常说认识多多益善或科学是好的或中立的，问题出在技术和应用上。所以出现了“科学无禁区、技术有禁区，认识无禁区、应用有禁区”等。他们习惯于把科学和技术作区分。其实，在现实中运行的并不是科学和技术，而是基础研究、应用研究和实验发展。基础研究就是为应用而研究的，就像盖房子打基础，你见过施工队打完基础之后就走，而不再盖楼的吗？既然是基础研究就意味着和应用研究有一个衔接。所以很多观念是延续过去的科学哲学，实际上现在都是R&D哲学。所以说“科学无禁区，技术有禁区”这种观念，忽视了连锁效应，研究成果出现之后，在现在的社会一定要尝试应用，你不应用别人也会应用，如果研究成果威力巨大就都会抢着应用。但这样简单的一个道理，不少人并不接受。

误区三：“顺其自然论，科技发展必然论”把负面效应看成正面效应

问：人工智能发展的速度很快，以至于《奇点临近》成了很热卖的一本书，科学家预言2045年机器智能超过人类。是这样吗？

刘益东：就在不久前，人工智能达到了人类13岁的智力，通过了图灵测试，就是你分辨不出机器与13岁的孩子有什么区别。比尔·盖茨为《奇点临近》写的书评字里行间透着欣喜，觉得是件挺酷的事情，比尔·乔伊对此感到忧虑。显然，人工智能超过人类智能，对人类一定是灾难，这远比外星人可怕。更重要的是，不在于什么时间人工智能超过人类，而在于一些科学家的态度，就是 “顺其自然论，科技发展必然论”，他们把科技负面效应看成正面效应。比如，机器人泰斗、卡内基·梅隆大学教授汉斯·莫拉韦茨说“我们将进入机器人时代，这既是不可避免的也是合乎需要的，机器人比我们更庞大，我们只是其中的零部件”。莫拉韦茨的主张显然是荒唐的。人的大脑就会像主机板一样，嵌入的硬件和软件不断升级换代，既要饱受电脑病毒的困扰，还要受控于软硬件厂商和计算机科学家，后果不堪设想。

“双刃剑思维模式”即“双刃剑陷阱”

问：您分析了科技风险的三个误区，它们的共同特点是什么？

刘益东：“双刃剑思维模式”可称为“双刃剑陷阱”，它有三个特点：一是在态度上不加区分地肯定和接受，强调事物都有两面性，科技也不例外，强调要充分发挥其正面作用，尽力避免负面作用，要扬长避短，而不深入分析能否做到扬长避短。一些科技伦理研究仅仅是搪塞社会对高科技的担忧，没有注意到高科技的正负效应不能抵消，这时就不是双刃剑，而是单刃斧；二是把知识的创造者（铸剑者）与应用者（用剑者）分开，把科技负面效应的产生归咎给应用者，而没有注意到知识与应用的连锁效应；三是笃信使用者决定知识的应用，而实际上知识会诱使或迫使人去使用。正是“双刃剑思维模式”及种种认识误区阻碍了科技风险研究的深入。

避免粗放式创新，为可持续创新与发展提供有益创见

问：根据您对科技风险的研究，您提出致毁知识概念和致毁知识研究模式，通过研究致毁知识来突破“双刃剑思维模式”，突破乐观派与悲观派相持不下的学术僵局。是这样吗？

刘益东：在明确“科技知识增长不可逆”“尖端科技知识正负效应不可抵消”“知识与应用具有连锁效应”等三个前提下，我提出和解决“在科技知识增长的同时，能否阻止其中的一类破坏力极大的科技知识——致毁知识——的增长”这一难题，发现有26个原因不能阻止致毁知识增长，得出的结论是：粗放式科技创新必然要产生致毁知识，而致毁知识的增长与扩散是不可逆、不可抵消、不可阻止的，达到一定程度必然会发生毁灭性灾难。因此，我们不仅要避免粗放式发展，更要避免粗放式创新，反思粗放式创新与粗放式科技发展模式，可为我国科技创新的健康发展，为实现可持续创新与发展提供有益的创见。

（作者系中国农业大学人文发展学院教授）