加强我国科技伦理治理需要新思路

10月8日，由科技部、教育部、工业和信息化部等十部门联合印发的《科技伦理审查办法（试行）》正式公布，旨在规范科学研究、技术开发等科技活动的科技伦理审查工作，强化科技伦理风险防控，促进负责任创新。

近年来，随着科技伦理问题的凸显，伦理的规制也越来越不可或缺。从全球范围来看，未来10～15年的科技伦理问题正面临着新的发展形势，加强我国科技伦理治理需要新思路。

传统科技管理体制面临挑战

纵观前沿科学领域中产生的一系列新兴技术，例如基因工程和基因编辑、人工智能和机器人、合成生物学、神经技术、纳米技术、增强现实技术、3D打印、异种移植等，有可能给人类生活乃至未来生存带来巨大变化同时，也有可能引发未曾出现的伦理问题。

新兴技术的这种特点提出了一系列我们应该做什么（实质性伦理问题）和如何做（程序性伦理问题）的规范性问题，使得传统科技管理体制面临挑战。

为此，欧洲哲学界在“预防伦理”和“责任伦理”基础上提出“负责任的研究和创新”原则，作为欧盟“地平线2020”战略下科技政策的重要组成，得到全球的积极响应。

负责任的创新特别强调我们要往前端走，甚至会在基础研究的过程中就对创新做一些社会伦理的介入和评估，把对各种不同利益相关者的考量都放到创新过程中去。如何在获得科技福祉的同时最大限度地规避风险，以必要的伦理原则、规范来约束不良科学技术的研究和应用，正在变得越来越重要，也面临着诸多挑战。

长期以来，我国的科技伦理研究方兴未艾，但较之科学技术的迅猛发展态势，仍处于相对滞后的局面。科技伦理监管“洼地”面临“伦理倾销”风险。所谓“伦理倾销”是指在伦理道德准则严格的国家接受培训的研究人员到伦理道德准则和监管松散的国家进行研究活动，其目的不是研究当地人民，而是绕开本国的法律法规、政策或程序。鉴于“伦理倾销”存在的科研安全风险，重视和加强科技伦理治理体系和制度建设已成为全球各国关注的问题。

由于科技发展已不再独立与社会，而是与社会发展的关系越来越紧密。社会公众意识的觉醒，对科技提出了更高的要求。随着网络新媒体平台、网络短视频等的快速发展，任何一个事件都可能通过互联网渠道快速向全社会散播，未来将会更进一步加剧和激化社会伦理事件的危机。特别是在全球科研活动不断交融和一体化的国际大背景下，一旦出现科技伦理事件，给各级政府的管理能力，包括处理热点伦理问题的智慧、速度、效率和方式等，提出了新的需求和挑战。

伦理风险与挑战浮出水面

随着生物医药技术、人工智能技术、新一代信息技术等快速发展，新兴技术正在深刻改变甚至颠覆自然进化法则、人类的生存方式、人类与自然的关系等，为我国创新型国家建设带来了新的风险和挑战。

以人工智能领域为例，人工智能技术的颠覆性、复杂性以及社会关联性等，对社会的发展会产生重要影响，它所引发的伦理风险与挑战已经日益浮出水面——一是当具备无自主意识的人工智能做出超出科研人员预期的行为并产生相应的伦理影响时，现有的伦理框架及人类的思维本质将因此面临极大的挑战，这将会对目前社会的人际关系、家庭结构产生重大影响，由此引发对传统伦理道德判断的颠覆。二是人工智能技术主要基于海量数据的算法设计和深度学习，而数据的采集和使用若管理不到位会导致数据安全问题，导致公民的个人隐私也存在隐患。三是高度智能化系统如果被不正当利用或者失控可能会对人类社会产生威胁，随之而来的是技术研究与应用引发的责任归属问题，一旦人工智能产品脱离社会伦理、法律规范，可能扰乱经济社会秩序，造成更大危害。四是人工智能以其智能化、高效化实现对产业结构和社会分工模式的重构，有可能造成大量人员的结构性失业，从而影响社会公平，引发潜在的伦理风险。

建立健全科技伦理组织管理体系

新兴技术的应用导向性强、复杂性高，其中涉及的伦理需要跨学科专家来共同参与、不断完善，并且要在研究一开始就将伦理问题考虑进去——能不能做是科学技术问题，应不应该做是伦理问题。

为此，笔者建议尽快建立健全科技伦理组织管理体系，加快组建国家科技伦理委员会，加强科技伦理管理制度建设和科技伦理审查队伍建设。

科技伦理绝对不是一个制约机制，更不体现为一种刹车机制，不能把伦理学作为束缚科学进步的工具。科学进步的目的是为了维护人类利益，科技伦理则是维护科学发展，是一种正确的科研价值观，它明确了科学技术活动的底线在哪里，实际上是对科技发展起到保驾护航、避免踩线的护航作用。以往出现伦理事件时，总是由法律来事后惩罚。但是这种处理方式早已不适应现在新兴技术带来的新情况。面对新兴技术带来的新问题，法律和伦理应当融为一体、共同发力。

笔者建议进一步完善我国科技伦理政策法规框架，加强新兴技术的伦理规范制定，在科技政策制定过程中强化“以人为本、公平正义、和谐协调、前瞻性责任”等科技伦理原则，并借助法律的刚性约束加强科技伦理治理。

现代国家治理，在伦理上的许多问题要靠行业自律。由于法律法规制定出台的时间比较长，往往滞后于社会发展，应鼓励相关行业应该通过协商形成共识，制定行业规范，从而起到保证自身健康发展的作用。科技伦理不仅是科学家个人的责任，也需要突破学科界限，需要不同学科领域专家学者以及政府、媒体和公众共同参与科技伦理问题的防范与治理。这也是欧盟“负责任的创新”的重要理念之一。

笔者建议尽快出台科技工作者伦理行为规范。由政府主管部门牵头，组织跨学科领域的行业专家、企业代表、行业用户和公众等建立多主体共同参与科技伦理协商并形成共识的机制。

当前，新兴技术的发展不断呼唤着科技伦理的规则重构与价值出新，迫使个人重新思考集体性或总体性价值的时代意蕴。而这种思考必须以对个人的自由、尊严和权利的维护为前提。

笔者建议探索设立国家科技伦理研究基金，发挥高等院校、科技智库等平台作用，提前布局新兴技术领域的伦理研究。一是对于相关行业，建议按照功能分层、能力分级的思想建立分层分级的伦理审查体系和制度。如在大数据领域，关于数据安全隐私的保护，不可能使用“一刀切”的监管标准，对核心敏感数据，必须采用最严格的标准进行保护，对违规的企业、个人都要进行严惩。二是对于不同行业，建议按照行业区隔的思路，结合相关行业特点，建立不同的伦理准则。

（伊彤系北京市科学技术研究院创新发展战略研究所所长，杨博文系北京市科学技术研究院创新发展战略研究所政策法规研究部副主任）