培养有社会责任和国际视野的人工智能高端人才

近期，我经常会被问到这样一个问题：为了引领未来人工智能的发展，中国人工智能人才培养需要做哪些准备？这也是院士专家企业一席谈论坛所要探讨的主题——构建人工智能高层次人才培养新体系和开放合作新平台、探索人工智能伦理治理新模式。

为什么要培养有社会责任感的人工智能人才

谈到人才培养，我2018年在中国科学院大学开设《人工智能哲学与伦理》课程时，颇具争议，当时的争议一是为什么要在工科院系讲授人文科学的内容，争议二是人文学科为什么要关注未来技术的发展。如今，人工智能的发展已经给社会带来了深刻影响，那时候的争议放到现在来看已经不再是争议。

下面谈谈为什么我们要培养有社会责任感的人工智能人才。有些人认为，人工智能是中立的，人工智能的善恶将由如何使用人工智能来决定。这就需要了解人工智能的能力来自于哪里？该能力主要来自人工智能学习的人类大规模数据，数据中有能帮我们解决问题的关键线索和事实，但还有人类社会中的偏见、歧视、敌对和仇恨，在没有人工智能伦理安全、道德框架约束时，学习了人类数据的人工智能也就学习到了人性的弱点，人工智能在向人类提供服务时也就潜移默化地隐含了偏见等。

既然遇到了这样的问题，那么现在人工智能的伦理和安全，以及相关的社会问题对我们来说，就不是一个选择题，人工智能的伦理安全应当是内建在人工智能研究和产业中的一个与生俱来的基因。因此，未来人工智能领域的人才应该首先是对社会负责任的。

国际视野下探索中国人工智能走向何方

2019年初，全世界多个国家的学术团体都制定了人工智能发展的原则。当时让我印象中非常深刻的是，在2018～2019年开展人工智能频繁的学术交流时，大家经常会问到一个问题——中国的人工智能走向何方？

2019年6月，我国新一代人工智能治理专委会制定并发布了《国家新一代人工智能治理原则》，中国人工智能发展和治理有了总体愿景。

回到为什么要从社会责任、从国际视野去构建未来人工智能体系这个问题，人工智能是社会性的，是要作为赋能技术连结不同国家和不同文化的。我觉得人工智能的发展要从人类自身出发，当代人工智能发展的动机就是人类提出的愿景，这个动机主要在于人类自己，我们构建人工智能的科学技术、服务和应用，需要人来负责，这点是非常重要的。

另外，人工智能应该是可持续发展的，作为一个赋能的人工智能技术，其不仅要有商业潜能，更关键的是如何推进社会和生态的可持续发展及全人类的进步。人工智能未来推进赋能全球的可持续发展，不只是需要关注一些具有大经济效益的方向，更关键的是在政府的引导下、在学术界的倡议下、在具有长远目标的企业推动下，推动那些对中国的发展、全球的发展非常重要的议题。有些方向虽然近期内可能没有人工智能明确的商业动机，但我觉得这正是政产学研需要协作的和长期布局的方向。

重塑人工智能人才培养，迎接中国机遇

从目前人工智能的发展来看，每一次的突破都是少数人说服多数人，如果希望未来人工智能迎来中国的时刻，我们现在必须有高端的学术机构、布局长远的企业，简言之现在就去布局十年甚至十年以上的、少数人从事的研究，做好准备迎接未来的中国机遇。

然而，在此之前我们还会面临挑战，比如要开展的小众布局，可能会引起大多数人的反对，这样的布局也可能在五年甚至是十年之内不会取得确定性的突破。

与此观念相反的观点不绝于耳，毕竟我们的人工智能产业创新跟全世界处于引领地位的相比还存在重大差别，其中原因就包括：我们不敢做大规模、持续的投入，而是在其他国家人工智能取得突破的时候，我们再做快速的放大器，长此以往就没有机会成为创新的源头，这也是我们进行人工智能高端人才培养必须解决问题。

当然，我国不乏优秀的人工智能初创企业，但这些企业首先需要关注生存问题，可能没有时间去想太多长远的问题，我觉得这需要政产学研届一起协作，做长远的布局。

总体而言，人工智能是一个科学问题、一个技术问题、一个社会的问题、一个人文的问题。人工智能有科学的属性，需要确立科学的体系，但是人工智能科学的体系不仅仅跟自然科学有关，还跟人文科学，跟社会科学密切相关。以前我们经常讨论，人工智能潜在的风险是什么？如今很多潜在风险已经快速转为实存风险。

因此，人工智能的体系需要重塑，未来人工智能的高端人才不只是培养构建智能信息处理系统的专家，而应该精通数学、物理、心理学、神经科学、发育生物学、演化生物学、人类学等，核心是研究自然与人工智能的原理与计算本质。另外，在社会层面，人工智能人才的培养需要增加的环节包括，人工智能与 哲学，人工智能的伦理与治理，人工智能与社会。

一位教授在自己退休的时候曾说过：“科学技术能够达到的事情为什么不去做？”技术可以达到的高度，可以对人类社会有不同方式的影响，或是积极也可能是消极。但是作为由人类社会推动并赋能社会发展的人工智能技术、人工智能科学发展的方式，不应该是由技术的高度、科学的高度来做最终的决定的，因为人工智能不仅仅关于科学，还关于我们的社会，关于我们人类的未来。

（作者系中国科学院自动化研究所研究员，联合国教科文组织人工智能伦理特设专家组专家，本文由《中国科学报》记者沈春蕾整理自曾毅在院士专家企业一席谈论坛上的演讲）