主持人：韩笑 混沌课程主任嘉宾：刘嘉 清华大学基础科学讲席教授、智源人工智能研究院首席科学家张江 北京师范大学系统科学学院教授、集智俱乐部创始人毛利华 北京大学心理与认知科学学院副教授范凌 特赞科技Tezign 创始人及CEO、同济大学教授、博士生导师，设计人工智能实验室主任
韩笑：首先用一个开放性的问题来开启我们的讨论。假设每位老师用三个关键词来描述2023年AI爆发式进化至今的体会，会是哪三个词呢？
刘嘉：我想到的第一个关键词是“震惊”。第二个词是“兴奋”，因为这样的科技进步令人欢欣鼓舞。第三个关键词则是“忐忑不安”。面对人类历史上的第二次认知革命，我们是否已做好准备迎接这一切，这确实令人感到不安。
张江：对我而言，第一个词是“涌现”，大模型展现出的能力令人瞩目。第二个词是“规模法则”，大模型作为一个复杂系统，其运作遵循着一定的规模法则。第三个词则是“卷”，这是规模法则带来的一个必然结果，也是我们当前需要面对的挑战。
毛利华：我的体会可能更为感性一些。第一个词是“震撼”，AI的快速发展让我感到不可思议。第二个词是“恐惧”，因为我不知道接下来会发生什么。但第三个词是“接纳”，我相信我们能够找到与AI和谐共处的方式，取得一种平衡。
范凌：我会用三个动词来总结我的体会。第一个是“想象”，AI为我们打开了新的想象空间。第二个是“构建”，我们需要用新的技术去构建未来。第三个是“创造”，无论是否懂技术，我们都可以利用AI去创造新的价值。
韩笑：在今天的讨论中，我们聚焦于科技和人文的交汇点，那么你们如何定义人文呢？
毛利华：对我而言，人文其实是一种信仰。我们是否相信人的可能性，是否相信教育的力量，是否对未来持有信心，这些都是人文信仰的体现。正因为我们对人的未来有信仰，我们才会不断去创新、去创造。所以，在我看来，人文其实就是对人的信仰，这种信仰让我们相信能够驾驭技术，利用技术，甚至用技术来创造更好的人。
范凌：我一直以来都认为，科技和人文并不是对等的概念。虽然人们常常将它们相提并论，但实际上它们并不应该被简单地等同起来。从某种意义上来说，人文是与人性有关的所有知识的体系，而科技只是人文的一种表现形式，而且是一种相对极端的、抽取出来的表现形式。科技和人文并不是对立的，而是相辅相成的。我们有各种各样的手段去感受、理解这个世界，科技只是其中的一种。因此，我认为科技和人文应该是一个相辅相成的关系，而不是对立的。
张江：我比较文艺，但是我一点也不人文。大家可能也都知道，我比较喜欢摇滚乐。从摇滚乐的发展历史来看，科技和人文的结合是非常紧密的。例如，吉他噪音和效果器的发明，就是科技在人文领域的应用，它们使得摇滚乐进入了一个全新的时代。随着AI技术的发展，我相信科技和人文的结合将带来更多的可能性，尤其是在艺术创作方面。
刘嘉：我们需要明确区分两个概念：传统意义上的AI与2022年11月30日出现的通用人工智能有着本质的区别。通用人工智能，它的定义就是像人一样的智能。如果我们希望赋予一个智能体像人一样的能力，那么除了科学层面的技术实现，人文因素也至关重要。从这个角度来看，我们当前的AGI研究不再仅仅是程序员的工作，它更像是一个新物种的诞生过程。我们扮演着上帝的角色，就像女娲造人一样，我们正在创造一个新的物种。而在这个过程中，人文起到了非常关键的作用，甚至比科学更为重要。我们需要思考，我们究竟希望创造一个什么样的智能体？除了具备强大的推理能力、能够处理各种深层次的任务，它还应该具备什么样的情感和价值观？我们应该如何赋予这个新物种生命和意义？这是一个深刻而复杂的问题，需要我们以开放的心态和深入的思考来面对。
韩笑：在AI时代，技术和人文哪一个应该是社会发展的主要力量？是技术决定了我们的文化和价值观，还是我们的文化和价值观应该引领技术的发展？
刘嘉：尼采曾提出“上帝已死”的著名论断。虽然他没有给出太多的解释，但如果我们从字面意义上去理解，它可以被解读为某种权威或信仰的崩塌。曾经，自然界是我们的上帝，它塑造了人类；然而，现在我们似乎已经抛弃了那个上帝，开始按照自己的意愿来发展进步。同样地，如果我们回到这个话题，现在我们是AI的“上帝”，我们正在创造它，虽然现在还只是有了一些火花、一些萌芽，真正的AI尚未出现。但这只是一个时间问题。那么，一个核心问题就出现了：我们作为“上帝”，会不会将来被AI所抛弃？这是一个值得我们深思的问题。在此时此刻，无论是科技和人文也好，我们面临着一个重要的议题：科技和人文在飞速发展的AI时代究竟该如何平衡？我想，一个值得深入探讨的问题是，在未来我们希望与AI共同扮演怎样的角色？据预测，到2029年，AI的智力水平将超越人类智力的总和，甚至达到惊人的10倍之多。这一前景让我们不禁思考，如何与这样的智能生命体共处？距离2029年仅有五年之遥，我们必须为此做好充分的准备。关于科技和人文哪个更重要的问题，我认为这两者其实是相辅相成的。然而，从我个人的角度来看，人文因素可能占据了更为关键的地位。科技无疑为我们提供了强大的工具和手段，但如何运用这些工具，如何确保科技的发展与人类的价值观相契合，这都需要我们深入思考和探讨。
张江：首先，我非常赞同刘嘉老师的观点。现在我们拥有了AGI这样的技术，人类似乎越来越接近传统意义上的神。回想《西游记》中描述的那些神通广大之处，如今在科技的加持下，人类几乎已经具备了这些能力。然而，成为神并不是一件容易的事。能力越大，责任也就越大。在座的各位中，有多少是创业者呢？作为创业者，我自己深有体会。在创业之前，我可以随心所欲，但成为老板后，我的每一个念头都受到众多目光的审视。我不能再像过去那样任性，因为每一个决策都可能影响到公司的未来，甚至可能导致创业团队的失败。现在，我们有了AI这样的超级工具，人类已经变成了神一般的存在。那么，作为“神”，我们还能随意起心动念吗？显然不能。我们的科技在不断进步，但同时，我们也必须关注另一个重要的问题——环境的恶化。到2050年，我们可能会面临更为严重的环境问题，极端天气频发就是其中之一。因此，我认为在发展AGI和科技的同时，我们必须更加关注自然和人文。我们应该回归人文，从东方智慧中汲取养分。这些智慧为我们提供了关于人如何成为神的论述，也为我们指明了在科技发展中如何保持与自然和谐共生的方向。
毛利华：刚才两位老师的观点让我深受启发。确实，成为“神”并不容易，因为历史上的“神”在完成制定规则的使命后，往往会退出历史舞台。无论在哪个文化中，似乎都有类似的模式。中国传统文化中有一个非常重要的思想，那就是去神化，意味着神应该回到天上，而人类世界应由人类自己主宰。如果我们现在真的站在“神”的角度去创造生命的话，那么我们也可能会面临被抛弃、被消灭或被推翻的命运，总之，似乎并没有好的结局。所以说，神这个角色并不好当。在说我的观点时，我觉得首先需要明确人文这个概念的内涵和外延。如果人文指的是人性部分的东西，那么科技在这方面可能也扮演着重要的角色。我们的科学、文化和其他很多事物，其实都在帮助我们摒弃人性中那些不太好的方面，帮助我们超越自身的局限性。但从另外一个角度来讲，如果人文指的是我们所构建出来的一套秩序或是能够可持续发展的技术，那么从这个意义上来讲，人文可能比科技更重要一些。因为无论在任何时候，人文都是那个基石。就像我刚才说的那样，如果我们把人文的外延扩大一点，科学和技术可能就是人文这个体系内部的一个组成部分，那么我们就应该在这个体系内找到一个能和科技相互制约、相互促进发展的东西。在西方，这更多表现为宗教的作用；而东方采用的则是敬祖宗、敬鬼神、敬天地这些古老的智慧，来抑制我们人性中的恶所激发出的各种各样的欲望。科学，就是欲望的一种。科学是对未知的追求，但这种追求如果无休止，可能会带来可怕的后果。此时，人文的价值观就起到了重要的制约作用。宗教、信仰、理性的思考以及我们对未来的规划，都能成为制约科技发展破坏力的重要因素。因此，简单来说，人文更加重要。科技虽然强大，但它只是我们实现目标的一种手段。
范凌：我曾经是一个怀揣艺术梦想的青年，然而，在父母的引导下，我最终踏入了技术领域。媒介理论学家麦克卢汉曾经说过，人创造了工具，工具也塑造了人。所以你可以理解为，人文创造了科技，科技也创造了人文。所以孰先孰后、孰高孰低，都是很难被判定的。但另一方面，在我个人的学习和实践中，我深感人文与科技的融合之难。技术领域的人往往怀揣着一种“技术解决问题主义”的信念，认为技术能够高效、精准地解决一切问题。然而，从复杂科学的角度来看，这种信念往往忽视了技术可能带来的意想不到的后果。例如，在未来一大半的电力都被AI消耗了，这就会对环境和人类生活产生不可估量的影响。因此，人文视角的介入变得尤为重要，我们需要用更平衡的视角来看待技术的发展。但问题在于，尽管我们不断强调人文的重要性，在现实中，无论是教育还是企业的发展，往往仍在追求加速主义。而且加速主义越来越盛行，人文主义越来越式微，甚至在某些情况下被视作放弃派，所以说怎样重塑更积极的人文是一个挑战。我一直在思考，为什么科学能够不断进步？最近，我读到一本书，是David Deutsch（戴维·多伊奇）写的《无穷的开始》，书里说，科学的发展其实是在不断寻找更好的解释。为什么爱因斯坦的数学这么“烂”，他却能想到相对论？或许就是因为他脑子里的创造力，让他能用全新的思路来解释这个世界。所以，对于搞技术的人来说，人文主义特别重要；对于搞人文的，技术的乐观主义也特别重要。就是麦克卢汉说的那句话，A产生了B，B又产生了A，A和B永远都不会是一样东西。无论是人文还是科技，我们都应该接受它们之间的差异，并努力发挥它们的创造力，共同创造美好的未来。
韩笑：我有幸去过范凌老师的公司，给我留下了深刻的印象。无论是装潢、slogan还是logo设计，这家公司都展现出了极强的创造力。这也让我思考一个问题，在AI时代，我们如何理解创新？创新是更依赖于技术的革新，还是更依赖于人类对学问和文化的新理解？换句话说，是科技进步推动了创新，还是我们对人性的深层次洞察促进了创新？