2021人工智能合作与治理国际论坛聚焦元宇宙未来

导读：2021年12月4日，由清华大学主办，清华大学人工智能国际治理研究院（以下简称I- AIIG）承办，联合国开发计划署（UNDP）作为国际支持机构的2021人工智能合作与治理国际论坛在清华大学主楼后厅成功举行。

2021年12月4日，由清华大学主办，清华大学人工智能国际治理研究院（以下简称I- AIIG）承办，联合国开发计划署（UNDP）作为国际支持机构的2021人工智能合作与治理国际论坛在清华大学主楼后厅成功举行。12月5日，第三场主论坛围绕“元宇宙未来治理前瞻”这一主题展开，中国社科院哲学所科技哲学研究室主任、研究员、科学技术和社会研究中心主任段伟文教授，中国科学院自动化研究所研究员曾毅，清华大学新闻学院新媒体研究中心执行主任沈阳，微软（中国）CTO韦青，易宝支付联合创始人兼总裁、《元宇宙通证》作者余晨、英伟达中国区Omniverse负责人何展、Bilibili up主籽岷、AI和区块链艺术家宋婷等专家出席圆桌论坛并展开交流。主论坛由联合国开发计划署助理驻华代表张薇、清华大学交叉信息研究院助理教授于洋主持。

主持人张薇首先展示了I-AIIG和UNDP共同提炼、发起的“元宇宙治理N问”公众调研问卷的主要发现。在过去一周内，超过7000人参与了该调研，其中男女比例约为4:5，绝大多数参与者为90后及00后，但不乏 50岁以上的参与者。她指出，随着元宇宙概念被广泛关注，迫切需要从各个角度全面审视元宇宙可能引发的未来治理问题，包括政治经济、国际关系与全球治理、伦理、立法、监管等，从而建构一个公正、开放、负责任、向善、可持续的虚拟世界。

此外，她强调，全球尚有37%的人口没有接入或使用互联网。相较于元宇宙的治理问题，数字化的加速和颠覆性技术带来的更迫切、更现实的挑战依然是数字鸿沟。

在圆桌讨论的第一部分，主持人于洋与来自学界的专家基于公众调研结果，以及主持人与AI虚拟人“孔子”的互动，展开关于如何看待元宇宙方面的学术讨论，探讨了在治理理论、实践、技术抓手都不完备的情况下，技术的进步是否需要一定的限制和引导这一深层次问题。

段伟文认为，人类目前为自己构建的技术世界建立在赛博物理空间（CPS）之上，不论是否称为元宇宙，下一步如果继续以信息和数据作为构建世界的关键路径，将会是整合多种新技术而产生的新型虚实相融的互联网应用和社会形态。亟待深入思考的是，元宇宙的构想与构建具有超越性，可能会把人类带进一个超历史空间。这个空间不仅仅涉及现实、虚拟及扩展现实等感知体验世界，更是一个超越现实与虚拟体验，涉及符号/象征、想象等观念和意义创造的世界。如果考虑到符号/象征、想象这一更高的维度，元宇宙的构建可更多地依靠人们自主的意识和观念的创造与合适的技术实现方式的结合，而不一定要走向单纯依赖技术无限升级的加速主义，甚至落入单一趋同的模式。若认识到这一点，未来，对元宇宙的监管和治理可能面临的不是单一维度的技术体系——唯一的大写的元宇宙帝国，而是一个多维整合的技术体系——多样化的元宇宙共和国或多种微世界的联合体。对元宇宙的治理应有前瞻性的考量。首先，涉及符号/象征和想象层面时，要赋予其充分的自由创造空间，不应急于出台一套标准化的制度体系，而应强调在自我意识基础上的自主管理和自我控制。其次，应该看到，不论元宇宙以何种技术路径实现，都发生于地球、社会和人自身之上，故促进人的可持续性、社会的可持续性（如团结与沟通）、自然的可持续性应成为元宇宙治理的基本价值诉求。其三，要对元宇宙可能导致的颠覆性社会价值伦理冲击展开深入研究。人一直生活在其用技术构建的世界里，元宇宙可能是技术世界的未来版本。不论元宇宙是否成真，在当前的技术路径下，最为突出的问题是数据正在替代信息成为新的技术世界的基础设施——数据就是人的行为，而元宇宙的构建似乎不能不基于对数据无时不刻无处不在的监测。这亟待我们从自然、社会和个人的维度对此技术路径展开反思和讨论，以形成包括元宇宙在内的深度科技化未来的新的社会契约。

沈阳认为，元宇宙是虚实相融的新世界，元宇宙实现了对时空的拓展，其未来面临着诸多风险，如虚拟人的归属问题，虚拟人的责任困境，人机交互下个人认知异化和行为异化等。当前，元宇宙整体发展处于初级阶段，其技术应用还处于低级层次。对于元宇宙的治理，可以采取边调研边发展边治理，确保不出现重大风险，又能积极推进元宇宙产业发展。近期可在现有的制度、法律、政策框架内来讨论，将当下的治理抓手落实在个人权力和利益关系层次。未来元宇宙治理需建立在充分调研的基础上，经过多元主体的社会大讨论，实现发展与治理的平衡，避免一刀切式的治理框架。要在发展过程中发现问题、分析问题、解决问题，实现精准式的动态治理。

曾毅将自己的主要观点概括为：“善用虚拟/增强现实，远离元宇宙”。他认为元宇宙相关的若干概念目前在科学上十分不清晰并有误导性。他赞同虚拟现实和增强现实扎根现实，对现实通过虚拟和增强进行扩展和辅助人类对现实的认知，因此在善用的理念下适度使用是合适的。而表示元宇宙在字面上有“宇宙的宇宙”、“超越宇宙”之意，如果认为需要去塑造元宇宙，就应当与现实世界高度关联并不能完全脱离现实世界。但一旦失去了这种关联，元宇宙就失去了根基。此外他认为面向人类的“数字孪生”概念也不具备科学合理性。孪生一方面强调相似性，另一方面本质上是完全不同的两个人，无法对应到同一个实体。此外目前的人工智能并不能克隆人类到数字系统中，人工智能目前也没有真正的理解能力、意识和真正的自主性，因此以数字孪生的愿景建构虚拟智能体模糊和混淆了人与人工智能的界限，而目前的人工智能只是一个看似智能的信息处理的工具，目前技术的发展远无法支持“数字孪生”。曾毅特别强调当“元宇宙”相关基本概念、愿景和应用仍然看似有重大风险时，尤其不应当将青少年推向这个未知的空间。目前，对这一概念的刻画还相当不扎实。其次，在通用人工智能还未到来之时，互联网、人工智能所存在的所有风险就足以使人类社会受到巨大冲击，由于“元宇宙”基于现代网络与人工智能技术发展，其风险将会在此上基础上叠加。最后，从文化背景看，虚拟和现实世界，都是历史产物。重塑虚拟社会，历史不可磨灭。在虚拟平台进行共治，文化互鉴和互信是重要的“基础设施”。从技术角度来看，当我们许诺给全球公众和政治系统概念的时候，在提出经得起科学推敲的基础理念前提下，要考虑技术可行性和社会应用合理性。完全脱离真实世界重塑的新概念会将人类带向真正的生存风险。

在圆桌讨论的第二部分，主持人张薇与来自科技和产业界的意见领袖，以及元宇宙的“第一批原住民“的代表展开元宇宙本质与由此带来的潜在风险的跨界讨论，探讨了虚拟世界（元宇宙）和现实世界（本宇宙）之间的深层次关联。

韦青认为，每个人对元宇宙有不同的理解。元宇宙应该以人为本，应该用来强化现实世界，而非替代物理世界，不能让人们沉迷于虚拟世界。越来越多的人发现，虚拟空间与真实空间都需要治理，都需要有秩序。但什么是好的治理，目前仍没有明确的答案，需要人类社会一起达成共识。在数字社会发展过程中，数字鸿沟是一个很大的挑战。我们的技术向前迈进的同时，不能落下一部分人。面对新技术，我们需要有足够的信心认为技术能够为人类的美好生活做出贡献。

余晨认为，创造的虚拟世界都可以被视为元宇宙，虚拟并不可怕。纵观人类历史，就是一个由实入虚的过程。元宇宙及现代社会很多问题的根源在于很多人混淆了符号和其所指的对象、混淆了拟像与真实。虚拟空间需要秩序，也需要治理。对于新技术可能的威胁，不能与之前的技术进行简单的归纳和类比，毕竟人工智能技术可能不需要拥有意识就足以毁灭人类，人们往往低估了新技术的次生危害。原则上技术是中立的，但技术是人性的“放大器”，对新技术的治理应该是动态的过程。元宇宙给我们带来创造价值可能性的空间，我们需要将恶的部分排除，将善的部分留下。

何展认为，元宇宙是一个概念，而非一项技术。由于近年来许多数字技术的出现、落地和爆发，元宇宙这一概念被广泛讨论。确切来讲，元宇宙是包括AI、机器视觉、物理仿真模拟、高性能计算等许多技术的融合，进而形成虚实交融的新业态。元宇宙之“元”，代表客观存在的世界与人的主观意识、意愿和谐共处，需要服务于真实世界。比如我们开发点餐机器人，帮助人们针对喜好推荐合适的食物，过去几十年，大多数人已经率先体验了虚拟世界带来的红利。但有趣的是，如果能够区分现实世界和元宇宙之间的不同，人们往往会选择从锻炼自身做起优化自己的现实生活，实现虚实之间的平衡。

籽岷认为，我们在元宇宙中的身份，不仅只是代表一个人的虚拟身份，而是一个集合。当前，许多人可能不清楚正在使用的就是元宇宙，或者根本不了解这一概念。我认为，对元宇宙概念的理解，主要是基于虚拟与现实技术的讨论。从虚拟世界和现实世界的关系来看，虚拟世界目前是一个雏形，而现实世界是已成型的。我们开发虚拟世界，旨在用其帮助现实世界。例如，在虚拟世界中进行模拟培训和学习（如消防演习），是对现实世界发展进步的促进。并且希望多方可以合作，使用元宇宙来帮助需要帮助的人，实现他们的理想。特别是B站上的青少年群体，对他们的人生发展，职业规划起积极意义。还有那些贫困地区的人口，也应该降低门槛，积极把他们纳入到元宇宙中来。因此，未来元宇宙和现实世界将会是互相依存和促进的关系。

宋婷认为，元宇宙不是物理宇宙的替代品，数字艺术也不是物理艺术的替代品，基于数字孪生的新文化在元宇宙中大有可为。她希望产业界能够继续开发可编程的、具有拓展性的艺术空间，从而使元宇宙能够赋能人的创造力，而不是减少创造力。元宇宙使得艺术家可以与全世界的同行们交流，不受地理的限制。而由于区块链技术让每一笔交易都可见，所以信用在元宇宙非常重要。最后，她希望能够采用更环保的公有链技术，因为数字文明的核心是灵活、同理心和想象力。

Metaverse概念的提出，使得人们第一次整体性看待过去二十年分别发展的互联网、人工智能、区块链和安全计算等技术及其形成的各类虚拟系统，从而揭示出人类政治、经济和生活已经被各类虚拟系统重新组织，形成了大量基于数字化的、复杂的新关系，颠覆了原有现实世界的权力、权利和关系。

与会专家一致认为，赛博空间已经与现实世界的既有秩序、组织和结构形成了张力、也对现实世界的治理提供了全新维度的挑战。这些张力和挑战已经引起了人性挑战、社会撕裂、政治动荡、金融风险等一系列问题，并仍在酝酿新的隐患。因此有必要重新审视目前分散但有联系的各个虚拟空间对现实世界的冲击。虚拟空间中缺乏制度共识和构建、虚拟空间和现实世界制度的冲突，已经成为下一代互联网迫切需要解决的议题。