华裔数学家陶哲轩领导白宫生成式AI工作组

当地时间5月13日，华裔数学家、菲尔茨奖获得者陶哲轩公布消息，他和物理学家劳拉·格林（Laura Greene）共同领导美国总统科技顾问委员会（PCAST）的生成式人工智能工作组。该小组将于当地时间5月19日在PCAST会议期间举行公开会议，AlphaGo之父、DeepMind创始人德米斯·哈萨比斯（Demis Hassabis）及斯坦福大学教授李飞飞等将在会上演讲。

据陶哲轩在博客中透露，生成式人工智能工作组主要研究生成式人工智能技术在科学及社会领域的影响，包括ChatGPT等基于文本的大型语言模型，DALL-E 2、Midjourney等图像生成器，以及蛋白质设计或天气预报等科学应用模型。值得一提的是，AMD的首席执行官苏姿丰（Lisa Su）和谷歌云首席信息安全官菲尔·维纳布尔斯（Phil Venables）也是这个工作组的成员。

据美国白宫在官网发布的文章介绍，PCAST成立的生成式人工智能工作组旨在帮助评估人工智能领域的关键机遇和风险，并就尽可能确保公平、安全、负责地开发和部署这些技术向美国总统提供意见。

文章中将生成式人工智能定义为，在对大型数据集进行训练后，可用于根据给定提示生成文本、图像、视频或其他输出的一类AI系统。这些技术发展迅速，有可能彻底改变现代生活的许多方面。在科学领域，这些工具被用于设计新药、蛋白质或材料，并有望加快科学发现的步伐。在医学领域，生成式人工智能有可能为医疗保健专业人员提供建议。在工作场所，这些工具可以加快计算机代码的编写速度，帮助撰写演示文稿和进行总结。

但同时，文章指出，生成式人工智能模型也可被用于恶意目的，如制造虚假信息、推送错误信息和冒充个人。如果在没有保障的情况下使用，生成式人工智能可能会引发社会分化，加剧社会中的偏见和不平等，更普遍的是，通过让公民难以理解世界上发生的事情来威胁民主。此外，生成式人工智能系统可能会侵犯隐私并破坏知识产权。

PCAST生成式人工智能工作组通过确定额外的需求和机会，并就如何最好地解决这些问题向总统提出建议。

在19日举行的会议中，生成式人工智能工作组的两个专家小组将介绍当下该领域的情况，发言者包括：

人工智能赋能科学（AI Enabling Science）:

Anima Anandkumar （英伟达机器学习研究总监、加州理工学院计算机与数学科学教授）

Demis Hassabis（DeepMind创始人）

李飞飞（斯坦福大学计算机科学教授）

人工智能的社会影响（Al Impacts on Society）:

Sendhil Mullainathan（芝加哥大学布斯商学院计算与行为科学教授）

Daron Acemoglu（麻省理工学院经济学教授）

Sarah Kreps（康奈尔大学政府学教授）

陶哲轩表示，工作组正在就如何识别和促进生成式人工智能的有益部署以及如何最好地降低风险征求公众意见。“我们最初的重点是如何检测、抵制和减轻人工智能生成的虚假信息和深度造假这一具有挑战性的话题，同时又不牺牲健康民主运作所需的言论自由和与民选官员的公众参与；未来我们还可能会围绕生成人工智能的其他方面发出进一步的请求。”

在ChatGPT出现后，像陶哲轩这样的顶尖数学家也对其极为关注，开始探索人工智能如何帮助他们完成工作。在《自然》杂志的一篇《AI如何改变数学？聊天机器人的兴起突出了对话的重要性》中，加拿大蒙特利尔大学的数论学家安德鲁·格兰维尔（Andrew Granville）也表示，“我们正在研究一个非常具体的问题：机器会改变数学吗？”数学家凯文·巴扎德（Kevin Buzzard）表示同意，“事实上，现在像菲尔兹奖得主和其他非常著名的大数学家都对这个领域感兴趣，这表明它以一种前所未有的方式变得‘热门’。”

此前，陶哲轩在去中心化社交网络Mastodon上写道，“我可以明确地说，今天是GPT-4为我节省了大量繁琐工作的第一天。”在尝试中，陶哲轩发现了ChatGPT的很多隐藏功能，如搜索公式、解析带代码格式的文档、改写学术论文中的句子等，有时ChatGPT还可以对未完成的数学问题进行语义搜索以生成一些提示。

他还对比了自己和当前生成式人工智能工具之间的比较优势：

对于每天执行的任务，我已经开发了足够的技术来优化我的工作流程，人工智能工具对我来说并没有太多的增值价值。最明显的是在研究数学方面，但也包括撰写电子邮件。我安装了一个插件，让GPT-4在我点击按钮时写电子邮件回复，但我几乎从未使用它，因为经过几十年的实践，我已经可以快速写出合适的电子邮件回复。

对于那些我有一些专业知识但很少实践的任务，人工智能工具是有帮助的：通常我可以用它们来创建输出的初稿，然后我可以验证和修改，或至少作为灵感来源使用。（在某些情况下，灵感是来源于AI的不足，这符合坎宁安法则的精神，但它仍然比我自己尝试解决问题更有成效。）这一类的例子包括数据处理、翻译，或以我很少使用的格式写文本（如公开演讲、规则文件等）。

对于那些我没有什么专业知识也不需要极高质量和可靠性的任务，可以简单地询问人工智能工具，并或多或少地听从其建议。在这里，人工智能的功能是作为传统搜索引擎的一个稍微方便些的版本。

最后，对于那些我不具备专业知识但又需要质量和可靠性的任务，人工智能和我自己都无法解决，我必须咨询人类专家，如修理一个复杂、昂贵、精致的设备。

一个有趣的尝试是，陶哲轩要求ChatGPT从描述中识别“库默尔定理”（用于描述在约束条件下如何找到最优解），虽然ChatGPT不能给出正确答案，但其还是能根据勒让德公式（Legendres formula）给出一个大概的答案。对于ChatGPT的表现，陶哲轩表示，人工智能在数学中发挥了作用，提供了一个初步的近似答案，再与传统搜索引擎相结合就可以轻松找到正确答案。

（原题：华裔数学家陶哲轩领导白宫生成式AI工作组，李飞飞将在小组演讲）