封面深镜｜除了引用《道德经》与张宏江尖峰对话 OpenAI CEO中国演讲首秀还说了啥？

封面新闻记者 边雪

随着ChatGPT等大模型的发布，全球人工智能掀起了新一轮发展热潮，国内外大模型技术研究与产业发展日新月异，通用人工智能进入全新发展时期。

6月9日，为期两天的“北京智源大会”在中关村国家自主创新示范区会议中心成功开幕。科技部副部长吴朝晖和北京市副市长于英杰出席开幕式并致辞。

围绕当前大模型等通用人工智能技术发展的热点问题，大会汇聚图灵奖得主杨立昆（Yan LeCun）、约瑟夫·希发基思（Joseph Sifakis）外，还有郑南宁院士、姚期智院士等国内顶尖专家共商人工智能发展，在国际交流合作平台，将为人工智能技术可持续发展注入强劲动力。

6月10日上午，封面新闻记者在会上注意到，受邀参加了本次大会的OpenAI创始人兼首席执行官（CEO）山姆·阿尔特曼（Sam Altman）以视频连线的方式现身，他在线上发表演讲后，与智源研究院理事长张宏江院士开展了尖峰问答，主要探讨在当前的AI（Artificial Intelligence，人工智能）大模型时代，如何深化国际合作，如何开展更安全的AI研究，以及如何应对AI的未来风险。

张宏江和Sam Altman对话。

Sam Altman演讲首秀：AI安全始于足下

“我正处于环世界之旅的第四个星期。我已经去了五个大洲的近 20个国家，与学生、开发人员和国家元首会面。这次旅行对我是一种激励。我们看到了世界各地的人都已经在使用AI技术，以令人难以置信的方式改变生活。”Sam Altman在演讲时指出，自己也收到了来自用户的宝贵反馈：“他们告诉我如何能使这些工具变得更好。”

Sam Altman认为，科学史表明，在几千年来的农业革命、工业革命和计算革命中都能看出，技术进步遵循的是一条指数型曲线。“但是，我们现在正在见证的人工智能革命影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。它正在扩展人类想象力的画布，并以极快的速度这样做。”

值得注意的是，在演讲中，Sam Altman还特别引用了老子《道德经》中的话：千里之行，始于足下。他认为，当下可以迈出的最有建设性的一步，是国际科技界间的通力合作，特别是推动建立提高AGI（Artificial General Intelligence，意为通用人工智能，以下简称AGI）安全技术进步方面的透明度和知识共享的机制。

此外，Sam Altman还提到了GPT4。“从GPT4完成预培训到我们部署它，我们专门花了8个月的时间来进行对齐方面的工作。总的来说，我们认为我们在这方面做得很好。GPT4比我们以前的任何模型都更加与人类对齐。然而，对于更先进的系统，对齐仍然是一个未解决的问题，我们认为这需要新的技术方法，同时增强治理和监督。”

在会议结束后，Sam Altman也在推特上发布了对智源大会邀约的感谢，并公开了自己随后环球之旅的行程。

Sam Altman发推感谢智源的邀约。

通用人工智能发展现状与未来趋势

虽然大模型生成的内容质量持续在提升，但是仍有专家对大模型路径存疑。图灵奖得主Yan LeCun认为基于自监督的语言模型无法获得关于真实世界的知识，这些模型在本质上是不可控的，并提出了“世界模型（World Model）”的概念。

重点围绕通用人工智能主要三条路径的前沿研究现状及未来趋势，相关学者也进行深入研讨。

深度学习大模型路径设置了基础模型前沿技术、视觉与多模态大模型、生成模型等论坛，具身方向设置了具身智能与强化学习论坛，类脑智能方向设置了基于认知神经科学的大模型、类脑计算、AI生命科学等论坛，另外，还有智能的物质基础等更为前沿的研究方向。

作为首位开场嘉宾，Yann LeCun带来了题为“朝向能学习、思考和计划的机器进发”（Towards Machines that can Learn, Reason, and Plan）的主题演讲，表达了他对通用人工智能发展路径的系统思考。

Yan LeCun和朱军对话。

图灵奖得主约瑟夫·希发基思（Joseph Sifakis）、郑南宁院士和Graphcore联合创始人西蒙·诺尔斯（Simon Knowles）等嘉宾还带来了精彩的线上特邀报告。同时，基础模型前沿技术、视觉与多模态大模型、具身智能与强化学习、类脑计算、大模型新基建与智力运营等专题论坛也陆续开启。

安全伦理问题和风险防范

2022年底开始至今，人工智能的发展出现了很大的变化，大模型出来了“涌现”能力，尽管还远没到“超人”的风险，但是，随着人工智能技术进步而来的是对安全风险问题关注的陡然提升。

本次大会，关于人工智能安全伦理问题方面的代表性人物进行了探讨。未来生命研究所创始人马克斯·泰格马克（Max Tegmark）介绍受控下的AI发展， 分享了“让人工智能处于掌控之下”（Keeping AI under control）的报告，并与清华大学张亚勤院士进行了对话，共同探讨AI伦理安全和风险防范问题。

“如果我们安全和负责任地对其进行治理，AGI系统可以为全球经济创造无与伦比的经济财富，能够解决像气候变化、健康、安全这样的共同挑战，并以无数其他方式改善社会。”Sam Altman指出，推进AGI安全是需要找到共同利益点的最重要的领域之一。“AGI是一种从根本上改变我们文明的强大力量，这意味着有意义的国际合作和协调是极其必要的。如果国际能够合作治理，那么我们每一个人都能受益。”

本次论坛众星云集，除了两位图灵奖得主，加州伯克利分校教授斯图尔特·罗素（Stuart Russell）、 郑南宁院士、姚期智院士、Anthropic联合创始人克里斯托弗·奥拉（Christopher Olah）等AI专家，也在论坛中给出了自己对当前AI可持续发展的洞见。