人工智能高端人才应有社会责任感和国际视野

2023-06-08 06:48:23 来源：今日科学

■曾毅

近期，我经常被问到这样一个问题：为了引领未来人工智能的发展，中国人工智能人才培养需要做哪些准备？这也是“院士专家企业一席谈”论坛所要探讨的主题——构建人工智能高层次人才培养新体系和开放合作新平台、探索人工智能伦理治理新模式。

人工智能领域的人才应该对社会负责任

(相关资料图)

谈到人才培养，2018年我在中国科学院大学开设《人工智能哲学与伦理》课程时，就引发了争议。争议之一是为什么要在工科院系讲授人文科学的内容，争议之二是人文学科为什么要关注未来技术的发展。如今，人工智能的发展已经给社会带来了深刻影响，那时候的争议现在看来已经不再是争议。

有些人认为，人工智能是中立的，人工智能的善恶由如何使用人工智能决定。这就需要了解人工智能的能力来自哪里。它的能力主要来自人工智能学习的人类大规模数据，数据中有能帮我们解决问题的关键线索和事实，也有人类社会中的偏见、歧视、敌对和仇恨。人工智能在没有伦理安全、道德框架约束时，学习人类数据的同时也学习了人性的弱点，人工智能向人类提供服务时，也潜移默化地隐含了偏见等。

在这样的前提下，人工智能的伦理和安全以及相关的社会问题就不是一道选择题，而是内嵌在人工智能研究和产业中的一个与生俱来的基因。因此，未来人工智能领域的人才应该是对社会负责任的。

国际视野下探索中国人工智能走向何方

2019年初，全球多个国家的学术团体制定了人工智能发展的原则。在2018—2019年开展人工智能学术交流时，大家经常会问一个问题——中国的人工智能走向何方？

2019年6月，我国新一代人工智能治理专业委员会制定并发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了人工智能治理的框架和行动指南。

人工智能是社会性的，是要作为赋能技术联结不同国家和不同文化的。我觉得，人工智能的发展要从人类自身出发，当代人工智能发展的动机就是人类提出的愿景，这个动机主要在于人类自己，我们发展人工智能的技术、服务和应用，需要人来负责，这点非常重要。

另外，人工智能应该是可持续发展的，人工智能技术不仅要有商业潜能，更关键的是要推进社会和生态的可持续发展以及全人类的进步。未来，人工智能要赋能全球可持续发展，不仅需要关注一些具有大经济效益的方向，而且要在政府的引导下、在学术界的倡议下、在具有长远目标的企业的推动下，推进那些对中国的发展、全球的发展非常重要的议题。虽然有些方向近期内可能没有明确的商业动机，但我觉得这正是政产学研协作和长期布局的方向。

重塑人工智能人才培养体系迎接中国机遇

从目前人工智能的发展来看，每一次突破背后都经历了少数人说服多数人的过程。如果希望未来人工智能的发展迎来“中国时刻”，我们现在必须有高端的学术机构、布局长远的企业，简言之，现在就去布局10年甚至10年以上的、少数人从事的研究，做好准备迎接中国机遇的到来。

在此之前，我们还会面临挑战。比如，开展小众布局可能会引起大多数人的反对，这样的布局在5年甚至是10年内不会取得确定性的突破。

与此相反的观点不绝于耳，毕竟我国的人工智能产业创新与全世界处于引领地位的国家相比还有很大差别。我们很少大规模、持续地投入，而是在其他国家人工智能取得突破时，再快速地做放大器，长此以往，就没有机会成为创新源头，这也是我国人工智能高端人才培养必须解决的问题。

当然，我国不乏优秀的人工智能初创企业，但这些企业首先要关注生存问题，可能没有时间去考虑太多长远的问题。我觉得这就需要政产学研协作，进行长远的布局。

总体而言，人工智能是一个科学问题、一个技术问题、一个社会问题、一个人文问题。人工智能有科学的属性，需要确立科学的体系，但人工智能科学的体系不仅与自然科学有关，还与人文科学、社会科学密切相关。以前我们经常讨论人工智能潜在的风险是什么，如今很多潜在风险已经快速转为实存风险。

因此，人工智能人才培养体系需要重塑，未来人工智能高端人才不仅是智能信息处理系统方面的专家，还应该精通数学、物理、心理学、神经科学、发育生物学、演化生物学、人类学等，核心是研究自然与人工智能的原理与计算本质。另外，在社会层面，人工智能人才的培养还需要增加人工智能与生命科学哲学、人工智能的伦理与治理、人工智能与社会等方面内容。

技术可以不同方式对人类社会产生影响，可能是积极的，也可能是消极的。人工智能技术、人工智能科学发展的方式，不应该由技术的高度、科学的高度作最终的决定，因为人工智能不仅仅关乎科学，还关乎我们的社会，关乎人类的未来。

（作者系中国科学院自动化研究所研究员，本报记者沈春蕾据其在“院士专家企业一席谈”论坛上的演讲整理）

关键词：