人与人工智能的边界究竟在哪里？

4月25日，由中国科技产业智库「甲子光年」主办、上海市信息服务业行业协会支持的「共赴山海·2023甲子引力X智能新世代」峰会在上海召开。现场30余位嘉宾与数百位科技从业者共同全方位聚焦新一代人工智能，为科技与产业的结合寻找新机会。

在当天下午的《明天过后：走进通用人工智能时代》主题圆桌中，维智科技CTO刘泉、天壤创始人&CEO薛贵荣、启元世界联合创始人&首席算法官王湘君、特赞联合创始人王喆、北极光创投合伙人张朋、甲子光年王博围绕智能的定义、人与机器的界限、人类的“自留地”等话题展开讨论。

以下是本场圆桌的交流实录，「甲子光年」整理删改：

1.新AI时代，“智能”是否需要被重新定义？

王博（主持人）：这场圆桌论坛的主题是《明天过后：走进通用人工智能时代》。首先，我们来关注“智能”这个词。如何定义“智能”？我们会想到著名的图灵测试，这是衡量AI智能程度的重要标准。但是，在ChatGPT出现后，有人认为，图灵测试已经过时，无法用来检测AI的发展程度与智能水平。对于ChatGPT，我周围很多朋友评价它“像一个人”。我想请各位嘉宾给“智能”下一个定义。另外，在ChatGPT出现后，这个定义是否发生过变化？

刘泉：关于智能的定义，我感觉不仅仅是一个技术问题，可能在一定意义上也上升到了哲学的高度。我认为智能是一个生命体，通过感知理解和一定的交互获得进一步反馈，不断形成个体层面的一个认知、理解和思考，进而会发生一些行动，包括用语言的方式和外界进行交互以及自己产生进一步的决策。这是我在宽泛意义上对智能的理解。

包括刚刚主持人提到的图灵测试是否有用，我是这么理解的：在提出图灵的时代，人对于计算机的理解更多地处于纯粹的计算层面。我们通过黑盒子，对一个人、一个机器提一个问题，来辨别人与机器。如果今天把ChatGPT放在后面，做类似的Q&A的话，这个检测的理念我是比较认同的。随着硅基生命自己的认知和决策能力的不断提升，我们很难对其真实性进行辨别。就像刚刚嘉宾展示的数字人和一个真实人，已经很难区别出哪个是真人了。但如果再追问一些很深层次的问题，包括价值观、创造、伦理等等方面，这些问题的引入也许可以帮助我们对不同生命体智能的阶段进行划分或者区隔。

薛贵荣：的确，GPT-4发布以后，大家对智能的概念可能和聪明这个词的联系更加紧密了。大家觉得GPT“讲人话”了，好像也表现得挺聪明的。我觉得也可以从另外一个角度定义新的概念，叫机器智能。首先是记忆的能力。机器和人的记忆有非常典型的不同，机器的记忆能力无疑巨大。其次，我认为机器智能具备像创造力、情感等能力。虽然GPT-4发布以后，大家感觉在专业上，人类也受到了机器的挑战，GPT-4可以打败我们85%以上的人的表现。所以我觉得，更专业的、更具有创造性和情感的表现可能是人类智能的表现，而机器只能在总结、归纳、推理记忆规模方面有更新的展现力。

王喆：我觉得智能是一个系统，不一定是一个人，这个系统可以吸收信息、处理信息。我们遇到的问题可以简单分两类，一类是确定性问题，一类是不确定性问题。确定性的问题大家是通过工程的方法、编程的方法解决。但像今天还有很多开放性的、不确定性的问题，大模型很擅长解决不确定性的问题，或者通过概率函数预测找到不确定性的边界。我认为智能是一个好的系统，能够把两种能力相结合。

张朋：简单来说，我认为无论人工智能达到何种程度，最终都应该具备为人类提供服务的能力。从客户的角度来看，无论实现方式、技术、模型组合是否开源或闭源，客户只关心是否能够解决他们的问题。商业角度下，我将智能分为内外两个层面。内部层面指的是能否解决员工或下属的问题，以及是否能够为公司创造价值。外部层面指的是能否代表公司或销售员或咨询人员与客户沟通，无论是通过语音还是个人形象。过去，数字化的软件只能解决确定性问题，只要输入指令就能得到结果。大型模型则能够解决模糊性问题，将问题按照逻辑分解成可能的问题，做出选择。智能从“你说1它做1”推进到“你说1，它可以举一反三”，越走越像真人，既能解决内部问题，又能触达外部客户。

王湘君：我认为随着人工智能的不断发展，大家对智能的认知和定义也在不断进化。回想几年前，我们认为如果AI下棋可以超过人类就是很智能的表现。但是现在，阿尔法狗已经能够碾压人类，显示出在游戏方面更高层次的智能水平。随着AI攻克更多领域，人们开始讨论真正的人工智能应该是什么。我们最开始定义智能体是具有自主学习和自主决策能力，这是智能发展的方向。

GPT的不断发展代表了通用人工智能的发展，类似于阿尔法狗。现在GPT已经具备了一种通用认知的能力，而OpenAI对智能和AGI的定义也在不断改变。在GPT-3发布时，OpenAI定义AGI为能够像人类一样完成智能任务，普遍适用于各种任务。特别是在最近GPT-4发布后，有一个新的定义是AI是一个比人类更聪明的智能系统。这个定义非常有意义，因为在谈论智能时，我们可以提出三个问题：第一，它是通用智能还是特定领域的智能？第二，它是普通的智能还是专家级的智能？很明显，GPT-4已经超越或达到了人类专家的水平。第三，它是智慧的智能还是全面的智能？从多个维度看，人工智能在感知、认知、决策方面取得了重大进展。要成为真正的智能，必须具备感知、认知和决策专家的水平。这是我的看法。

2.当硅基取代人类劳动力，未来人类的“自留地”是什么？

王博：无论通用人工智能是接近人还是超越人，都是在用人的智能来衡量通用人工智能，这让我想到一句话——“人是万物的尺度”。接下来，我们一起谈谈人与机器，或者人与机器人。很多人都听说过“机器人三大定律”，看过机器人主题的科幻电影，近期还有一种观点是“人工智能会在一些领域取代人类”。那么，当硅基智能取代一些人类劳动力，我们是否还有必要在人与机器之间划分明确的界限？未来人类的“自留地”又是什么呢？

刘泉：这个问题变得更加深刻了。实际上，我不完全赞同“机器总会取代人类”的观点，尽管我们有时会这样解读。因为科技进步会创造新的工作岗位和机会，这是相互促进、共同进步的过程，而不是单方面的替代。关于人和机器的区别，实际上我们前几年一直在探讨这个概念。人工智能从感知到认知再到决策，决策后还有下一步。我们曾认为这个阶段的特点是人可以创造大量内容，定义高质量的问题，而机器可以完全替代重复性流程。但自从ChatGPT发布以来，AIGC也在近年来蓬勃发展，人的创造能力也被替代，这让人有些惊讶。

一方面，一些创作或创造是基于对世界更深层次的理解和洞察，以及对规律和逻辑的归纳，通过对历史的样本和数据进行重新拼凑和组装。在这些更高维度的创造能力上，我认为人类仍然具有优势。另一方面，人类自身的情感和价值观是一个重要的区别点，这些价值观可能包括宗教或信仰等等，这带来了更加复杂的判断，无法很好地被浮像化和具像化。

薛贵荣：我觉得未来明确区分人类和机器或人工智能的区隔，还要花非常长的时间，但是在接下来的5到10年里，我们或许思考更多的是“我们怎么和AI互动”，以此来做协同模式，我觉得这是一个很大的创新。我们怎么用机器做更重要的事或者更复杂的事，让机器帮我们做我们不想做的事。就像现在人们戴眼镜和使用手机一样，和千里外的人通信就像在眼前，未来人工智能可以很好地帮助人类做很多的事。现在我们主要谈论人和智能协同，十年之后再看是什么样的迹象，是不是整体的人类认知或者人类解决问题的水平也提升了一定高度。那就是人智共存的时代。

王喆：我来提供一个新的视角。当我们思考这些问题的时候，我们可以把时间尺度放得比人类历史更长，从地球的角度看待这个问题。地球上的生命从单细胞生物开始演化，不断向上发展。现在，我们人类或许正处在地球上的一个特殊时期——我们已经发展出了智能，目前是主宰地球文明的生物种群，但也许在未来，还会有更先进的文明出现，这也许是人类在演化过程中的一个中间阶段。以单细胞生物时代为例，如果站在单细胞生物的角度看，也许会发现有一个更高级的文明正在慢慢地消灭他们。从这个角度来看待人类，我们或许只是地球上新一代非生物体系文明中的一个中间体。

至于机器和人类之间的关系，也许会在未来演化出一种协作或互斥的关系，这取决于文明和科技的发展。我们并不知道机器和人类是否会相互合作，还是会产生矛盾，就像大自然中生物之间存在互为食物、捕猎和共生的关系一样。而人类学习知识的方式相对落后，我们必须从零开始学习，并且使用比较古老的信息传递方式。例如一个老师在课堂上讲，每个学生听到的不同，信息的损失是非常大的。同时，每个人类个体寿命有限，要学习前人的知识需要花费很多时间。这是一个相对较慢的演化进程。不过，从科技的角度来看，更先进的文明可能会解决一些我们目前无法想象的新问题，比如能源和量子力学等，从而对人类的进步有所帮助。这是我提供的一种新的视角。

张朋：我非常认同王总刚才说的观点，我们对知识进行迭代的速度非常慢。虽然有可能通过某种新技术将上一代人的技术100%无损地传递给人脑，但这似乎有些超出科技范畴，比较不现实。然而，就目前而言，我认为人类可以主导技术的发展。尤其是在现代社会充斥各种信息的情况下，人工智能的应用可以帮助我们更快速地消化知识。

例如，在机器智能应用于搜索引擎和发布人工智能大型模型方面，可以加速我们学习的速度。这种工具是全民普及的，任何人都可以使用，只是看谁能更好地利用它。我们可以在大型模型的基础上完成许多事情。当然，这也会导致人与人之间的不同，有些人会从事高级工作，而有些人则从事低级工作。我们不确定是“人引领技术”还是“技术引领人”，但如果技术决定方向，那么人类的安全边界在哪里？因此，从工具为人扩展能力的角度来看，我认为这个问题应该优先解决。

王博：我想问一下湘君总，您之前在游戏领域做过“星际AI”和“AI陪玩”，您对于“人与机器之间是否应该划分明确的界限”有什么看法？

王湘君：我从三个方面来谈谈这个话题。

首先是关于是否需要划分边界的问题。我们在游戏AI方面做了很多工作，例如实现可以像真人一样对话的NPC这样的场景。目前运用的大型模型技术已经能够让玩家难以分辨这些NPC是不是AI了。从用户体验的角度来看，这是一种更好的体验，他们不再关心与谁交互，是人还是AI。在这个角度上，我相信，除了游戏之外，很多人类社交本身的需求还是陪伴、情感交流。因此，AI可以用来满足人们在这方面的需求。特别是现在虚拟人对于AI的认知和下一代人有不同的看法，越来越开放、接受新技术和接受AI在新社会的定位。

第二个角度是，AI的能力越来越强，但仍然有一些事情它无法做好。AI的发展更多地集中在智商能力方面。但是，有两个比较难回答的问题：人的自我意识是什么？AI是否能通过学习的方式获得自我认识？这些问题还不确定。

第三个角度是，现在有两个观点，一个是像马斯克提出的新硅基智能，人类可能是硅基智能的引导程序，来引出更先进的新一代智能。另一个观点是，AI是我们创造的实体，就像NPC一样，无法感知高维的存在。从技术的角度来看，我们可能更倾向于后者。

实际上，现在AI还有很多缺陷，最明显的是OpenAI强迫让ChatGPT的部分功能失效。ChatGPT只是一个工具人的定位，开发者赋予了它应该做什么、不应该做什么、擅长做什么，帮助AI确定了它的价值观和道德准则。目前，人类对AI还拥有引导和发展方向的主控权，这也是现在很多人关注的AI安全问题所在。在发展AI的同时，我们需要掌握它的可控性，更好地创造一个人工智能和人类共生的世界。

3.科幻电影里的人工智能，未来能成真吗？

王博：今年年初，《流浪地球2》受到了广泛关注，其中“图丫丫”给人们带来了关于“数字生命”的想象。当我们走进通用人工智能时代，我们对未来生命形态还可能有哪些想象？

刘泉：我认为通过在数字世界当中存储一些人的思想和认知等等，能够进一步和视频做交互，有点像数字世界的永生。拉回到现在世界的尺度，我更加期待看到机器和人有更好的共生和相互促进的关系，比如机器可以辅助人们更快速地学习和掌握知识，更高效地掌握工具，从重复性劳动中释放出来，在影响力的创作和探索产生更大的价值。人的生命在数字世界的永生可能是另外一个话题。

薛贵荣：今天我们谈到的更多是关于数字人的，未来可能还会有一个实体的机器人在外面工作，一个数字人在虚拟世界，而我们在家里面躺平。我们的思想和决策在真实世界和虚拟世界的互通，这非常有意思。比如《流浪地球2》里面的一个人物，我们现在看不到他本人，但可能看到一个机器人在外面代表他。我觉得这是一个比较有意思的世界。

王喆：我的想法是，我们现在发展的时候，发现生命体的意义是把基因还原成能力和学习。数字生命是一直延续永存的，过去的人通过留下作品从而被后人感知。只是现在的门槛稍微降低了，不需要一个特别伟大的作品来延续，可能是通过自己的想法，甚至可能在数字世界形成某种延续。当然随着发展，数字生命的意义也会和以前不一样。以前生产力效率不高的时候，我们这代人努力拼搏，享受生活其实不多。生命的意义在享受生活，数字世界里可能主要是玩，不需要努力工作，大多数工作是被机器完成了。生命的定义会随着科技的发展拥有新的理解。

张朋：真的挺科幻的。从意识上传这一想法来说，我想到了一本科幻小说。在小说中，当人变老到八十多岁时，有一项新技术可以帮助他们换一个新的身体。思想和记忆仍然是原来的那个人的。 至于数字生命，我认为在人类社会中，无论是数字人之间的互动，还是数字人是你的亲人、朋友、爱人等等，人类更需要和人类在一起感受彼此的情感。毕竟，我们是需要社交和群居的动物。在人工智能时代，人工智能拥有自己的思想和观点。到了那个时候，可能有很多社交障碍的人不需要跟真实的人产生交流和互动。因此，我认为数字生命是人类的一种补充。

王博：这让我想起《三体》里面的云天明。我想请教一下湘君总，您对未来生命形态有哪些想象？

王湘君：好的。因为做过比较多的娱乐行业，我也有很多感受。特别是从游戏玩家的角度来讲，很需要它。首先是因为游戏本身就是追求体验，各种游戏包括元宇宙都在打造一个不同的平行世界，或许可以穿越到三国时期、三国战场等等，也能够和未来世界进行交互。我觉得其实这能够超越现在社交的局限性，甚至包括时间限制和更多数字生命的交互。另外，我们在陪伴的方向上想提到的是，让AI能够像我们看到的科幻电影一样，更好地陪伴人，能够让人在精神和情感世界有更好的寄托。第三点呢，看到数字生命的发展，也期待在实体世界里大佬的实体机器人带来的更多的想象力。

王博：好的，谢谢线上的湘君总，谢谢在场的所有嘉宾，本场圆桌论坛到此结束。