12月21日，以“聚力·奋发2024”为主题的环球人物年度盛典在北京举行。

本次活动邀请到毛泽东同志卫士长李银桥之子李卓韦，联合国前副秘书长埃里克·索尔海姆，中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅，中国科学院计算技术研究所研究员、龙芯首席科学家胡伟武，复旦大学教授梁永安，百年昆曲世家传人周好璐，中国科学院院士陆汝钤，以主题演讲的方式，分享自己在这一年中的感悟与思考，凝聚共识，奋力前行。

以下为曾毅的演讲内容：

·2023年12月21日，曾毅在环球人物年度盛典现场演讲。

今天我非常高兴有机会来到环球人物年度盛典，跟大家分享人工智能的发展。

我在参与联合国教科文组织的人工智能全球伦理建议书、讨论人工智能应当如何发展的时候，专家组当中的同事们总会说，曾老师虽然你来自中国，和我们如此不同，但还是非常希望跟你合作。我总会打断他们说，我非常想知道，为什么你们认为我和你们如此不同？

全世界的文化多种多样，但是世界应当包容性地发展。人工智能的技术不仅能够推动经济发展，还应当帮助我们连接世界。它不仅仅应当用来促进文化传承，更关键是，还应该用来促进文化的交互。

我想这是人工智能可以带给我们的力量。人工智能还能带给我们什么？它还能让我们进行反思。我们经常说人工智能的发展应该以人类为中心，应该以人类为本。

这个世界上生命是多种多样的，我们用人工智能技术实现了共生图。这个共生图当中描述了人类以及所有动物、植物之间的关系，它背后是互联网积累的海量数据，告诉我们，人类跟生态完完全全是关联在一起的。所有生物、所有动物、所有植物，和人类是一个整体。

所以地球应当只是以人类为中心吗？这给我们很多反思。当我用一个生成式人工智能，希望它告诉我们人类和蚂蚁之间的关系是什么，人工智能系统居然告诉我，世界上有50种不同的吃蚂蚁的方式。只有一句话写着，一位科学家曾经说过，蚂蚁社会的范式是人类社会合作范式的（效法）典范。

生成式人工智能的发展，使得我们在用户体验层面，在工程技术组合创新层面，都在2023年的时候达到前所未有的高度。但是作为人工智能科技工作者，我也要告诉大家，人工智能的科技突破、科学突破还远远没有到来。

人工智能今天的发展虽然给予我们很多机会，让我们反思自己，让我们认识这个世界，但是它带来的风险也是巨大的。

大家看到生成式人工智能发展使得社会信任受到了极大的影响。你看到互联网上的信息，不管是文本还是视频，会相信这是真的吗？是人工智能生成的？还是真实发生的？我们的社会信任在技术发展当中居然受到了如此之大的挑战。这是技术发展的双刃剑。

当你利用人工智能系统问问题的时候，它说“我认为、我以为、我觉得、我建议”。作为一个人工智能的研究者，我想问人工智能，你哪里来的“我”？

人工智能是信息处理工具。它把显著性的互联网曾经出现过的答案呈现给我们。但是它既不是责任的主体，也不是道德的主体，所以不要混淆人与人工智能之间的界限。

现在的人工智能只是一个工具，我们不应当把人类责任推给人工智能，更不应该不负责任地在人工智能服务当中放弃人类的权力和人类的责任。

我想，未来人工智能的发展并不一定只停留在看似智能的信息处理工具阶段。比如说，在日本人工智能原则当中就提到，未来人工智能可能会成为社会的准成员，可能会成为人类的伙伴。

未来的人工智能在人类社会当中，在生态当中将扮演什么样的角色？是工具？还是社会的准成员？还是像很多科幻作品中描述的人类敌人？我想这都是有可能的。

但如果我们把它当做工具发展，就要把它做得更安全。现在全世界有很多科学家号召人工智能发展能不能稍微慢一点，能不能停下来先解决安全的问题。我想，技术发展可能会往前走，但是如果希望技术进步能够往前一步，那就要把安全的护栏提前做好。

因为人工智能是赋能技术发展、赋能全球可持续发展的基础设施。我们不应当以不稳健、风险大的基础设施服务于人类。所以我们发展人工智能不仅仅要保证它的安全可靠，更要保证它合乎伦理。

人类道德是这样获得的：当我们有了自我感知，就能够区分自我和他人，能够换位思考，能够进行认知的共情，能够进行情感的共情，最后能够进行道德利他，产生道德的直觉，最终产生道德的决策。这是人类道德的产生。

人类合乎伦理之路。我想未来的人工智能可能难以用这样的方式，真的获得理解，真正变成人类活动，以具有道德的人工智能来替代现在所谓的合乎伦理的人工智能。

当你现在告诉人工智能应该做什么、不应该做什么的时候，同时也有可能有别人告诉它：他说的是不对的，你应该按照我的方式做。除非它产生真正的理解，真正像孩子、伙伴和全人类一样获得真正对于道德的直觉，在道德直觉基础上进行道德决策，那可能才是我们希望的人工智能。

也许人类的演化速度并没有那么快，但是人工智能的演化随着超级计算平台的诞生，速度可能非常快。

如果说，对于未来的人工智能我们有一个期望的话，我希望人工智能未来能够能够从中国文化中学到君子和而不同，也能从其他国家文化中获得文化底蕴。

我认为人工智能是一面镜子，不管它未来停留在工具阶段还是变成社会准成员或者伙伴，都在不断帮助人类思考人类来自于哪里，人类应该在哪里。

人类永远不会被人工智能替代，因为我们一生的目标是追寻自我的内心。这也就是人工智能能够帮助人类做的事情，让我们追求善，以善为源。

人与人工智能未来必然是和谐共生的，如果人工智能未来真正能够达到超级智能阶段，那么它也应该是超级利他的。符合自然演化规律的人工智能应当关爱整个社会、生态。

这促使人类需要反思人与生态之间的关系。超级智能也许需要50年、100年甚至更长时间才能到来。但是我们需要解决人类与人工智能、生态之间和谐共生的问题，我们要给超级智能一个理由让它关爱人类。也许人类社会伦理道德原则应该在这样的反思当中进行重塑。

人工智能目前仍然是人类的一面镜子，会给人类的未来带来更多启示。我想我们对人工智能的发展应当抱有开放的心态。

现在，人工智能作为一个信息处理工具，最负责任的使用它的方式应该是，不必使人工智能无所不在，应该使人工智能适度使用，负责任、稳健的发展才会使人工智能扬帆远航。

谢谢大家！