■本报记者 温才妃

打破理工科学生对伦理道德的偏见，还得从认识上转变技术价值中立的思想。高校、科研院所凡是涉及科技工程的单位，均要开设一门科技工程伦理学课程。课程不能简单地等同于知识课，要让学生在科技活动中有伦理体验，感受到新技术应用对民众可能产生的影响，建立同情心和社会责任感。

一个普通家庭的小男孩马丁重病住院，他的父母领养了机器人大卫来缓解自己的伤痛。后来，马丁苏醒过来，大卫逐渐失宠。出厂程序使得大卫的一生始终追寻着让妈妈爱他的愿望，他躲过机器屠宰场的追杀，经历了一系列吉凶难料的旅程后，终于拥有了在千万年后被创造出来的独属于他的妈妈。

科幻电影《人工智能》讲述了一个机器人的情感故事，电影引发了关于新技术带来的一系列伦理问题的思考——应否把机器人当作人类看待？如果机器人越来越像人，又该怎么处理……

近日，中央全面深化改革委员会第九次会议提出要组建国家科技伦理委员会，并强调科技伦理是科技活动必须遵守的价值准则。

作为科技伦理审查不可或缺的基础，高校科技伦理教育也越来越受到人们关注。然而，目前的情况并不乐观。

据大连理工大学2017年的一项调研结果显示，我国理工科学生在科技伦理意识的不同方面存在不均衡现象，相比较生命伦理、环境伦理而言，学术道德和工程伦理方面的意识缺失比较突出。其中，50%左右的理工科学生对技术设计活动中的伦理要素缺少足够的考虑。

该项目来自中国科协，涉及全国几十所高校。

科技伦理教育相对缺失

“如果某项还存在缺陷的产品被厂家推向市场，您作为该厂的产品设计者，是否会向公众说明？”

“工程师如果检举揭发不合格工程的内幕，轻则丢饭碗，重则生命受到威胁。假如您是一名工程师，并且您知道某些工程不合格，您会检举揭发吗？”

……

在上述调研中，受访者回答“不会”“偶尔会”，“没有责任”“小部分责任”的均占20%左右。较之于回答生命伦理和环境伦理问题时的坚定，学生们对于工程伦理原则性问题的回答表现出明显的不确定性，在一定程度上也反映着我国科技伦理教育的现状。

记者了解到，目前我国高校设置伦理委员会的仅为17.6%，且多为医科类院校。即便建有伦理委员会的高校，不少也缺乏标准化的操作规程，在指导伦理教育上发挥的作用有限。

此前，科技伦理课程曾经陆续在西南交通大学等20多所高校开设，由清华大学、大连理工大学、东北大学等8校组成的科技伦理研究联盟也在共同推进相关科技伦理课程的建设。但总体而言，开设比例偏低。

2018年3月，全国工程专业学位研究生教学指导委员会颁布的《关于制定工程硕士专业学位研究生培养方案的指导意见》，首次将《工程伦理》课程纳入必修课。但仅限于专业学位研究生，从整体而言和现实的需求相距甚远。

对于工程伦理教育，更多时候来自于教师在专业课中的零星提及，以及指导研究生过程中的自发行为。

是否会对人造成伤害，是重庆大学汽车学院教授褚志刚作科技伦理判断的标准之一。但他认为，这一理解还未完全到位，“直接的伦理判断容易，但随着技术发展，更多伦理问题间接产生”。

比如，自动汽车闪避使得大卡车刹车不及，由此引发一连串交通事故。事故责任应追究到大卡车上，还是自动汽车上？应追究技术本身，还是制作者？类似的问题，目前尚未有明确的认定标准。

中国社会科学院哲学研究所研究员邱仁宗指出，科技伦理涉及面甚广，应重点关注新技术带来的伦理问题，在教育领域也是如此，而这方面教育的缺失应引起重视。

缺失在于研究不到位

高校科技伦理教育长期缺失，或许可以从某些细节发现端倪。

褚志刚告诉《中国科学报》，向国外期刊投稿必须要有科技伦理声明，交代清楚不会对人、动物等产生伤害，然而，向国内杂志投稿却未见这样的规定。

中国医学科学院生命伦理学研究中心执行主任翟晓梅指出，长期以来，我国学界对伦理的认知存在诸多误区，如把科学与伦理对立，认为发展科技不受批判是最理想的状态；谈及专业伦理时，又把伦理的概念泛化，所言非所指，由此导致伦理与科技渐行渐远。

学界尚且如此，教育自然也跟不上。即便人们心中认可科技伦理教育的重要性，但在操作层面上缺少科学的方法。

“有些高校一度将科技伦理教育划入‘两课’范畴，且所占内容并不多，如职业伦理、学术道德、社会责任感等并没有及时纳入到课程教学内容之中。”大连理工大学人文与社会科学学部教授王前说。

在邱仁宗看来，教育上的缺位还要从研究上溯源。 已研究了50年，有了一定学科积累。由于问题的敏感性，相关的伦理认知逐渐成为共识。而像人工智能、自动汽车等新技术的研究才刚刚开始，与之对应的伦理认知尚存较大争议。

算法歧视就是人工智能引发的典型伦理案例。

2015年，“谷歌”曾错误地将黑人程序员上传的自拍照标注为“大猩猩”。2016年，微软公司的AI聊天机器人，在和网民聊天时被“教坏”，被灌输许多脏话及种族歧视思想，成为“不良少女”，后被紧急叫停。在“谷歌”的广告服务中，男性会比女性有更多的机会获得高薪招聘信息……

邱仁宗表示，提前构建技术公平规则、在设计环节注入伦理观念，远远落后于技术开发。

而更大范围的工程伦理发展相对缓慢。实际上，“技术哲学早就存在，但技术伦理学发展相对缓慢，所达成的共识不多、差异较大。改善这一切并不是开一个会、搞几个课题就能轻易解决的，需要专业伦理的介入、研究。”邱仁宗说。

他希望，借此次国家组建科技伦理委员会的契机，起草科技伦理的一般原则，在每个领域伦理问题研究的基础上制定伦理准则，作为科技工作者决策和行动的普遍标准。只有如此，与专业结合的科技伦理教育才有理论与标准的依据。

首要的是开设必修课

在对待“科学研究无禁区”的态度上，前述调研中持赞同倾向的人占到60%以上。因此，打破理工科学生对伦理道德的偏见，还得从认识上转变技术价值中立的思想。

课堂成为大学生接受科技伦理教育最理想的场所。

目前两类开课模式在一些先行高校中进行：一是单独设课，纳入通识教育范畴；二是结合专业课，在专业课中渗透伦理知识。

2016年，我国工程教育正式加入《华盛顿协议》，根据协议规定，理工科院校专业必须开设伦理类课程。目前，国内高校本科评估也将开设伦理课程列为一档指标。

“高校、科研院所凡是涉及科技工程的单位，均要开设一门科技工程伦理学课程。”邱仁宗说。

不只是工程类专业硕士必修，必修的范围还应拓展到博士生、学术型硕士生，乃至本科生，成为本次受访者的共识。

培养一批既懂科学技术，又懂伦理教育，具备跨学科特征的师资，是当下伦理教育的急需。

邱仁宗表示，应大力进行能力建设，培养一大批科学技术伦理学的博士和硕士。

王前认为，培训专门的师资很有必要。有一定理工背景的教师可以经过培训上岗，相关专业如自然辩证法的教师也可以经过培训开设科技伦理课程。“不能浅显地理解专业伦理，必须深刻钻研。”有条件的情况下，也可以采取多人授课模式。

在课堂教学之外，王前提醒，“科技伦理教育还要打破一个误区——基本上只依靠学校教育，忽视社会文化环境与终身教育的重要性”。

前述调研发现，在高校理工科学生科技伦理意识养成方面，媒体作用最大，其次是课堂教育，再次是导师的言传身教，最后是课外读物。

王前表示，学校教育具有短时性，学生们总归要走出校门，踏入现实的复杂社会之中。如果没有一个好的社会伦理环境，他们以前接受的科技伦理教育将会被逐渐淡忘。

另外，学校教育面对的主要对象是未来的科技人员，对于科技伦理意识养成作用具有一定认识局限性。在现实社会生活中，科技伦理问题并不是单独存在的，而是与法律、社会和政治等联系在一起的，在不同的领域表现不同。

知行合一的科技伦理课

什么才是行之有效的科技伦理教育？多年来，王前一直在琢磨这一问题。

“人工智能的应用是否越广越好？如果过分依赖人工智能，人的智能就可能退化，造成工具理性过强，人文理性偏弱，人类的想象、灵感、创造力就会削弱。”

“给儿童设计玩具，仅考虑经济效益，自然希望孩子不停地看下去，这就会对儿童的视力、听力产生伤害。因此在玩具设计中，需要设置定时关闭功能或提醒家长不能长时间给孩子观看。”

“同学们，在技术设计环节，就要把伦理意识放进去。”在王前主讲的网易视频公开课“科学技术与工程伦理”和大连理工大学“工程伦理”数字课程中，这样的例子不胜枚举。

中国古代讲求知行合一。在王前看来，科技伦理课程不能简单地等同于知识课——上完之后有成绩就可以，还要落实到具体行动中。“要让学生在科技活动中有伦理体验，感受到新技术应用对民众可能产生的影响，建立同情心和社会责任感。”

在国外一些大学，科技伦理教育形成了相对成熟的模式和方法。如美国的价值敏感设计教育、加拿大的角色扮演和情景模拟、荷兰的负责任创新教育、日本的案例教学等。

在医学教育上，我国课堂也会采用角色扮演，师生通过扮演医生和患者的角色，将课本知识转化为临床实践，使得学生掌握临床辨证施治的方法,提高医生与病人的沟通技巧。

相比西方，我国的科技伦理教育起步晚、科技伦理意识不足。在王前看来，有必要开展适合我国特点的科技伦理教育，联系我国科学研究和工程实践活动的具体情况，通过开放式讨论，领会学术道德和科学技术职业的伦理精神。

他在科技伦理教学中增加案例教学、体验式教学的成分，让学生在具体情境中，知道哪些事该做，哪些事不该做。

“如果将来你所在的某工厂厂长让你偷排污水，你干还是不干？如果干了肯定不对，不干违背命令就可能失业。你应该怎么办？”在讨论课上，学生的回答五花八门，最后往往在“头脑风暴”和教师引导下，不仅找到正确的应对方式，还强化了批判性思维。

“教师要传授给学生合理又巧妙的实践智慧。”王前以举报“偷排”为例指出，通过讨论要让学生知道应该到哪里举报，找什么人控制偷排行为，如何借助媒体、机构的力量达到阻止偷排的目的，这样才能让学生将来在具体的情境中灵活处理，真正达到科技伦理教育的目的。