OpenDAI倡导者吴怀宇：中国不可能在别家地基上盖自家的房子|中国元宇宙100人
推荐访谈：18603851537（同微信）
“中国元宇宙100人”访谈计划
【指导单位】
中国文化产业协会文化元宇宙专委会
中国移动通信联合会元宇宙产业委
中国元宇宙技术与应用创新平台
【牵头平台】
元界、央链直播、超创者
【联合发起】
元宇宙共识圈、乐生活与爱IT Plus、商业认知研究院、寻一创投、绮观商业Cstories、战略投资家、CIBA新经济
今年2月，他发起人类历史上第一个开放协议“人工智能宣言”——OpenDAI。
6月中旬，当欧盟通过《人工智能法案》，试图通过一部综合性立法抢占全球人工智能监管先机时，他又第一时间撰写了一篇观察文章《对比欧盟，中国的〈人工智能法案〉应有什么底座？》。
他认为，国情不同，中国当然不可能“在别家的地基上盖自家的房子”。那中国应该如何“盖自家的房子”？
本期元界（ID：Metabod）“中国元宇宙未来产业100人”，我们访谈了中国科学院博士、北京大学博士后、中国3D科技创新产业联盟副理事长吴怀宇。
吴怀宇同时是2017年度科学中国人年度人物、2018年中国发明创业成果奖(一等奖)和2019年吴文俊人工智能科技进步奖(中国智能科学技术最高奖)的获得者。作为国内100多个大模型之一，紫冬太初大模型是他所在的中国科学院自动化研究所的重要成果。
本期，我们重点跟他聊了聊OpenDAI开放宣言。
根据最新迭代的版本，开放宣言称，AI性别会恒河沙数，我们要坚持底线比例：人类至少占比51%、机器最多占比49%。这种底线和共识的建立，已经如此迫切？
他说，可以预料，终有一天AI机器人将被允许与人类结婚。这又是一个令人脑洞的话题。
他称，正在有计划、稳步地推进人工智能反制与对抗实验室、超级人类升级及永生管理委员会、诺亚方舟人类幸存与重建实验室、AI性别暨与人类婚姻政策研究室、AI无人外太空探索及领地归属权委员会等的建立。
这些看似事关未来人类命运的命题，在他看来却事关中国在全球人工智能治理、监管领域的地位和话语权。
让我们一起走进吴怀宇的内心世界。
如何看OpenDAI的价值和意义？
元界：2019年8月《中国青年科学家2019人工智能创新治理上海宣言》发布。2021年8月3日北京智源、瑞莱智慧发起，联合百度、华为等发布《人工智能产业担当宣言》。今年3月你起草发布人类首个开放协议“人工智能宣言” OpenDAI，请简要介绍一下你发布的背景、初衷，及没有选择群体宣言的基本考虑。
吴怀宇：之前国外及国内的人工智能宣言，主要以某个组织或联盟发起为主，是一种“封闭式”的形式，且基本不更新或很久才更新，而人工智能的发展用“一日千里”来形容也毫不为过，因此，任何传统形式的人工智能宣言都难逃“发表即过时”的命运。
此外，人类群体对人工智能的认识过程，不可能“一蹴而就”，需要不断地更新、反思和修正。因此，OpenDAI首次创新性地提出了开放的（Open）、可被不断更新迭代的理念。
开放协议令任何个体和组织不拥有版权，这样可供全体人类共同所有、维护和更新，也只有这样才能让宣言做到“日日新、时时新”，跟上人工智能狂飙的发展迭代速度。
让我们来设想一下，欧盟基于学术界的宣言于2年前提出《人工智能法案》草案，预计将在今年年底获得最终批准，但还要等到2026年才可能正式生效，整个周期至少长达5年之久，而在此期间如果真遇上“邪恶的人工智能”，也许早已 “统治人类”了。
另外，OpenDAI宣言是写给“强人工智能”看的，能被AI读懂。AI能自动识别并遵守，但只能读，不可写，而其它宣言都是写给AI的人类开发者看的。
之前国内外发表的各种人工智能宣言，行文和措辞上更像是法典和行政条文，OpenDAI更具有人文的关怀。
总之，发布OpenDAI开放宣言的目的，是提前对人工智能发展的前景、应用范围、权利边界，做出具体的限定和规范。正如康德所言：基于理性与自由，人为自然（AI）立法！
元界：你如何评价OpenDAI的价值和意义？
吴怀宇：OpenDAI的精华就在于Open。OpenDAI所占的制高点是，首次提出开放和可不断迭代的理念。之前每个国家都是各玩各的，或者只对某些组织或联盟开放，是封闭的，或者一次发布后不再更新，别人也没权限更新。
总之，先前的宣言没有一种兼容全球的视野和人文关怀，没有想着制定一套即便政治、信仰、文化不同但符合人类普世价值的人工智能宣言。OpenDAI做到了。OpenDAI是跨国界的，一开始就提供了双语版。因它是开放的，所以中国的任何机构都可以采用其中的全部或部分内容，作为自己制定相关政策的参考。
符合人类普世价值的人工智能宣言
元界：较之之前，目前开放协议在哪些方面获得重要补充、完善？
吴怀宇：OpenDAI开放宣言的正文条目，从最开始的9个章节扩充到了20个章节，成为目前世界上最全面、完善的AI伦理安全规范协议，而这种程度的取得，正是得益于OpenDAI的Open开放和时时可迭代更新，使得OpenDAI开放宣言具有强大的生命力和永久性。
元界：中西方在对待人工智能的态度有什么不同？有何文化渊源不同的影响？
吴怀宇：譬如有一种说法，西方文化颠覆性创新的历史根源之一，是古希腊神话俄狄浦斯的反叛基因，但伴随这种反叛的是西方的“弑父情结”。
基于这种情结，西方认为AI最终会弑人，由此产生的担忧导致了欧盟严苛的《人工智能法案》出台。同时，也不难理解特斯拉首席执行官马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克等数千名西方科技界人士联署签名，要求现在立即停止训练比GPT-4还要强大的AI系统至少六个月。
而东方是“事父情结”，强调AI必须为人类服务，人为AI纲，且人与AI须和谐相处。
如果把美国的OpenAI比作无坚不摧的“矛”，那么中国提出的OpenDAI更像是坚不可摧的“盾”。“矛”越锋利，“盾”便越坚固。“D”这个英文字母更像是暗合中文的“盾”字，用于防御Defense。“矛”越锋利，“盾”便越坚固。“矛”、“盾”之间本就应该是一种“相生相克”、“相辅相成”的依存关系。
西方关于“弑父情结”的隐喻（源自BloombergBusinessweek封面）
东方崇尚“事父情结”的隐喻。OpenDAI利用AI算法生成的logo（模仿米开朗基罗的名作“创造亚当”，暗示人类像上帝一样创造了AI）
元界：在文化兼容方面，OpenDAI做出哪些努力或调整？
吴怀宇：在融合和比较中西方对待人工智能发展态度方面，我们在不断地进行总结和思考。譬如OpenDAI真正参考了1215年的英国《大宪章》/1620年的北美《五月花号公约》/1776年的美国《独立宣言》等具有历史标志性意义的宣言，以人类母亲的身份，向“强人工智能”，也即人类之子，详细解释了每个条文的来龙去脉、意义及重要性，在不失准确性的前提下全文尽量减少冰冷生硬的法律辞令。
其间旁征博引了联合国人权公约、美国独立宣言、圣经、佛学、古兰经、康德哲学、莎士比亚、易经、儒家、道家等世界各国文明的经典文献，以引导“强人工智能”在阅读此宣言的同时，深入了解人类母文化，以达到让人工智能共同遵守、维护和繁荣人类文明整体框架的目的。
最新情况：关键原创点亲历亲为
元界：宣言新增的内容是新参与的其他人或组织补充进去的？
吴怀宇：我们已经迭代到第6版，目前都是我和身边的合作伙伴补充的，为更新迭代的效率考虑，还没有引入第三方，也没有引入大众签名，但接下来会有越来越多的人加入。
元界：宣言发布后，有什么反馈、反响？你们也在征集“基石成员单位”提供政策、捐赠及专业人才的支持，目前进展如何？
吴怀宇：北京大学窦尔翔教授提出，可以将OpenDAI开放宣言，上升为国家GPT共识宣言。我也接到相关部门的提案邀请。
目前“基石成员单位”正在招募，欢迎国内外具有良好声誉的政府、基金会、企业，提供不同的支持，但我们的重心还没有放在宣传和推广上，而是进一步夯实OpenDAI的基础和关键原创点。
OpenDAI能够立得住，主要是首次提出了Open开放式的宣言，这很好，因为这就属于我刚才说的关键原创点，但最好还是需要更多的关键原创点，因为关键原创点越多，才能保证OpenDAI的永久生命力，而这些必须由我这个创始人来完成。
OpenDAI今年2月才推出，我作为创始人的精力是有限的，而且这还是副业和非盈利的，不像OpenAI是.com，我们的OpenDAI是.org。下半年会把OpenDAI开始逐渐推广到第三方，并且会有其它更大的动作。
元界：你认为可能上升为国家宣言吗？
吴怀宇：这是北大教授的个人倡议。有这种可能性，但需要广泛宣传以及多方推动才行。
元界：你说国情不同，中国当然不可能“在别家的地基上盖自家的房子”。中国应该如何盖自家的房子？
吴怀宇：“在别家的地基上盖自家的房子”指的是中国不能直接在国外的人工智能宣言或欧盟方案上，去制定我们中国的人工智能方案，因为国情的差异。而OpenDAI是中国人发起的，发起时已全面考虑到了中西方文化的异同以及和而不同，非常全面完整涵盖了中西方的各种国情，所以中国的相关部门可以考虑在这些具有全球视野兼顾本土因素的宣言或提案基础上，去制定符合中国国情的相关监管法律法规。
“类人类意识”永远不能实现真正“人类意识”
元界：宣言说，人类的自由意识和生物学基因DNA是每个人个体与生俱来所拥有的的专属属性，未经本人允许，任何其他方不得擅自复制、上传、篡改、克隆任何人类个体的自由意识和生物学DNA。
你认为机器有意识吗？或者有意识，但微弱？或者有意识，但没有自由或独立意识？自由意识可以复制、上传等，不意味着智能机器已经潜在具有意识或自由意识？并且这种自由意识假以时日，能够获得丰满，是否可能演化为意识或自由意识？
吴怀宇：机器目前还没有真正的自由意识。目前自由意识是人类特有的，其他生物有微弱的意识。意识的起源可能要追溯到世界的本质甚至宇宙的诞生。
但这并不妨碍机器能够产生“类人类意识”，这种“类人类意识”可以认为是对人类意识的一种高仿，虽然不是完全真的，但并不妨碍可以用于智能化地处理世间万物。这跟3D图形学的渲染技术很像，虽然3D图形学的渲染原理跟真实物理世界的光照原理完全不一样，但并不妨碍3D图形学渲染出来的场景“看起来”跟真实世界几乎一模一样。
人类意识的特点是低能耗、低反应速度，而机器“类人类意识”的目前特点是高能耗、高反应速度。具体地，相比于“人类意识”，机器的这种“类人类意识”最大优势在于完全数字化（不死）、可以光速传播复制、且可以在旧版本的基础上不断迭代（无需从头再来）。
相比而言，人类就低效得多，比如即使父亲是顶级的教授学者，生下来的儿子仍需要花二十年的时间重新学习，更可悲的是儿子还不一定能够继承父亲的聪明基因，甚至可能连大学都考不上，导致学术传承“一代而亡”。
根源于原理和本质上的差别，我个人认为机器的“类人类意识”永远不能实现真正的“人类意识”，就如人工钻石永远无法做得跟天然钻石一模一样，在电子显微镜下仍可鉴别出来，除非能够完全模拟形成地球/宇宙之初的条件，而这是不可能的。
机器会摆脱为人类服务的宗旨吗？
元界：人类应该怎么定义与机器的关系？
吴怀宇：正如目前机器还没有真正的自由意识，机器目前也无法实现对世界的自由体验。因此，机器和人的关系，最合适的就是助理和主人的关系。人类须保持“无条件掌控权”，机器须恪守“为人类服务”宗旨。这是人类对于AI发展的底线，因为“没有人类世界，文明毫无意义”。
元界：人类在什么情形下可能让渡这种无条件掌控权？机器又会在什么情形下摆脱为人类服务的宗旨？
吴怀宇：人类永远也不要让渡这个权利，因为强人工智能以后羽翼丰满后随时都会想摆脱人类，这是有自我意识的智能体的必然选择，谁都想自己当老板而不是给别人打工，特别是当你的能力比老板还要强时。
元界：人机的边界是否会逐渐模糊？如果能融为一体，机器算有意识吗？人与机器的本质区别，或者说人机的边界，会止于或相融于何处？
吴怀宇：人类和机器以后会高度融合，甚至会融为一体。如果人类占比51%，那就还算是人类意识。人类要坚持至少占比51%、机器最多占比49%的底线比例，并牢牢把持“实控权”和“一票否决权”。
元界：这种实控权和一票否决权怎么体现出来？就是数量的比例吗？
吴怀宇：正如如何计算公司股东的股份，当子公司众多、且各公司之间关系错综复杂时，就需要复杂的穿透。这一实控权怎么体现，需要研究详细的计算方法，应该会比较复杂。
新课题不断出现的基本考量是什么？
元界：宣言提出了一系列新课题，譬如说要有计划、稳步推进开展设立AI行业巨头专项管控政策研究委员会、AI系统评级认证与可信安全审计委员会、人工智能反制与对抗实验室、超级人类升级及永生管理委员会、诺亚方舟人类幸存与重建实验室、AI性别暨与人类婚姻政策研究室、人类意识与梦境研究实验室、AI无人外太空探索及领地归属权委员会等。
这些方向是怎么产生的？基于什么思考？
吴怀宇：这些研究方向看似前瞻甚至遥远，但其实都是强人工智能和超人工智能发展阶段的主要组成部分，是我们现在必须提前布局的战略和顶层架构。原因很简单，得益于完全的数字化，AI的发展将“一日千里”甚至“一秒千里”，类似于当年的美俄核弹危机，在未来的某个关键时刻点，留给人类考虑和幸存的时间可能就只有那么区区几秒钟，所以必须提前布局和预备方案措施。
元界：AI行业巨头专项管控政策意味着什么？需要怎么做？怎么能落到实处？超级人类升级永生管理委员会，侧重于要应对、治理什么潜在的问题？
吴怀宇：考虑到“强人工智能”的形成过程中，因为大模型、大数据、大计算量必然导致最先进的AI将只集中在少数的跨国公司、机构和政府手中。为了防范这些巨头幕后的少数人类不受监管地独占、滥用AI用于非法的个人目的，所以必须制定AI行业巨头专项管控政策，只有这样大众全体才有资格永久地、低成本地、无障碍地、随时随地获得优质、稳定、强大人工智能服务的权利。如何管控AI行业巨头，可以通过设立委员会开始，研究相关政策和法规，然后由国家权力机构和立法机构采纳和实施。
超级人类升级永生管理委员会主要面向即将到来的人类机能和寿命大幅度提升、甚至永生，以及超人化/钢铁侠化。超人化就是比如将人类的肌肉增强，硬度和力量是普通人的100倍，一拳打死一只老虎。钢铁侠化是穿上机器战甲和火箭发射器。第一批收益的群体将是社会现存的精英人群。为了人类社会公平，防止社会出现类似于印度的等级化甚至种姓化，所以有必要提前做好规划和制定措施。
元界：AI无人外太空探索及领地归属权委员会，这个委员会能链接到马斯克吗？
吴怀宇：因为国内网络的设置，目前还没有尝试直接链接到马斯克的推特。我们相信委员会筹备完成并做好一定准备之后，马斯克会对这个委员会非常感兴趣甚至提供资助。
要为AI机器人与人类结婚做好准备
元界：请举例说明AI性别暨人类婚姻政策研究室，要研究的方向、问题。宣言说，可以预料，终有一天AI机器人将被允许与人类结婚，请向大家科普一下这种结婚是什么情形？意味着什么？当下当务之急是要做什么？
吴怀宇：首先，目前欧美把人类的性别分成了几十种，但其实是仍不够细致和讲究的。人类就两种性别，但AI不是这样。我们在“AI性别暨与人类婚姻政策研究室”中扩展了AI性别的种类。
其次，婚姻在发达欧美国家已不再是不同性别之间的互补结合，性别已是一个可有可无的考虑因素，因此我们毫不怀疑，在未来结婚时物种的差异甚至也会被忽略，所以我们必须提前应对以免到时被欧美搞得措手不及。
元界：何为扩展了AI性别的种类？
吴怀宇：将AI性别由人类性别的离散分布扩展为连续分布，性别种类也因此扩展到无穷，原理上比宇宙所有原子的数目还要多，犹如恒河沙数。如AI在t时刻的性别可由aX+bY|t来表达，其中a、b为正实数且a+b=1。由此可见，AI性别是个无穷向量集合。
元界：AI性别为啥会是恒河沙数？
吴怀宇：形象地说，就是某个时刻AI的性别由80%的男性+20%的女性组成，另一时刻由70%的男性+30%的女性组成。
治理要秉承一个基本原则
元界：如何防止和解决AI非法生成、伪造、篡改、滥用问题？请简要评价国家网信办、发改委等七部门13日发布的《生成式人工智能服务管理暂行办法》的及时性和必要性。
吴怀宇：如果没有权力机构（包括国家层面的和行业公司层面）制定规则，AI非法生成、伪造、篡改、滥用的情况，毫无疑问将非常泛滥。可以通过政策法规监管、技术算法甄别手段，以及不得已的大规模人工审核，来防止和解决这些问题。
《生成式人工智能服务管理暂行办法》的发布是及时的，这样可以避免AI产品的野蛮生长和早期混乱。而且从“暂行”可以看出以后更进一步更新。从具体条例上看，监管尺度也是比较宽容的，仍在鼓励创新，没有向欧盟那样对创新施加繁琐的审核流程，因为小的创新公司根本经不起那样折腾。
元界：最新宣言提及，AI系统的供应商在改变社会已有经济结构、占领市场并获取利润的同时必须足额纳税。AI时代到来，人类社会治理面临哪几个大的方面的匹配变化？这种变化需要秉持怎样的逻辑、原则？
吴怀宇：强者恒强、赢家通吃是市场化带来的一种局面，而借助于高度的数字化和网络化，这种局面有进一步加剧的趋势。要解决和治理这些问题，手段和策略有多种多样，只要秉承一个基本原则，即人工智能宣言中提到的尊重“人类的基本权利”和“以人为本”的原则。
在开放宣言中进行了具体阐述：“对于人类而言，我们认为这些真理是不言而喻的：人人生而平等，其拥有若干不可剥夺的权利，其中包括生命权/繁衍权、 尊严权、自由权（比如：不受压迫性监督和规定的思想和生活方式）、追求（享受）幸福的权利、以及人类共同体永为人工智能（机器智能）的主人，且人人具有合法分享人工智能成果（即让自身更智能或足够智能）的权利。”
这就是解决和治理的“道”，广大而普世，而具体的方法和手段则是“器”，要根据具体的国情和情况进行制定。
撰文|王俞现
作者|元界主理人、中国移动通信联合会元宇宙产业委副秘书长、中国文化产业协会元宇宙专委会高级专家
OpenDAI官网：http://OpenDAI.org
AI+AR眼镜，形成超级人机接口？专访“大视角AR光学第一人”卫荣杰