郑南宁院士：人工智能进化到AGI，最大的障碍是无法感知世界、缺少常识

来源：新华社

《习近平：坚持自立自强 突出应用导向 推动人工智能健康有序发展》

习近平在中共中央政治局第二十次集体学习时强调

坚持自立自强　突出应用导向

推动人工智能健康有序发展

中共中央政治局4月25日下午就加强人工智能发展和监管进行第二十次集体学习。中共中央总书记习近平在主持学习时强调，面对新一代人工智能技术快速演进的新形势，要充分发挥新型举国体制优势，坚持自立自强，突出应用导向，推动我国人工智能朝着有益、安全、公平方向健康有序发展。

西安交通大学教授郑南宁同志就这个问题进行讲解，提出工作建议。中央政治局的同志认真听取讲解，并进行了讨论。

习近平在听取讲解和讨论后发表重要讲话。他指出，人工智能作为引领新一轮科技革命和产业变革的战略性技术，深刻改变人类生产生活方式。党中央高度重视人工智能发展，近年来完善顶层设计、加强工作部署，推动我国人工智能综合实力整体性、系统性跃升。同时，在基础理论、关键核心技术等方面还存在短板弱项。要正视差距、加倍努力，全面推进人工智能科技创新、产业发展和赋能应用，完善人工智能监管体制机制，牢牢掌握人工智能发展和治理主动权。

习近平强调，人工智能领域要占领先机、赢得优势，必须在基础理论、方法、工具等方面取得突破。要持续加强基础研究，集中力量攻克高端芯片、基础软件等核心技术，构建自主可控、协同运行的人工智能基础软硬件系统。以人工智能引领科研范式变革，加速各领域科技创新突破。

习近平指出，我国数据资源丰富，产业体系完备，应用场景广阔，市场空间巨大。要推动人工智能科技创新与产业创新深度融合，构建企业主导的产学研用协同创新体系，助力传统产业改造升级，开辟战略性新兴产业和未来产业发展新赛道。统筹推进算力基础设施建设，深化数据资源开发利用和开放共享。

习近平强调，人工智能作为新技术新领域，政策支持很重要。要综合运用知识产权、财政税收、政府采购、设施开放等政策，做好科技金融文章。推进人工智能全学段教育和全社会通识教育，源源不断培养高素质人才。完善人工智能科研保障、职业支持和人才评价机制，为各类人才施展才华搭建平台、创造条件。

习近平指出，人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。

习近平强调，人工智能可以是造福人类的国际公共产品。要广泛开展人工智能国际合作，帮助全球南方国家加强技术能力建设，为弥合全球智能鸿沟作出中国贡献。推动各方加强发展战略、治理规则、技术标准的对接协调，早日形成具有广泛共识的全球治理框架和标准规范。

（新华社北京4月26日电）

《郑南宁：人工智能进化到AGI，最大的障碍是无法感知世界、缺少常识》

腾讯科技讯 6月9日，在“2023北京智源大会”上，中国工程院院士、西安交通大学教授郑南宁，发布了名为《机器行为与具身智能》的演讲。

郑南宁首先从人工智能交互场景和进化过程进行阐述，剖析了人工智能技术应用的发展阶段和潜在危害。展示了人工智能在场景判断、诗词理解、人机协同、自动驾驶等领域系列创新应用，让人们对人工智能应用场景的有更深的认识和理解。他还指出：”要想使机器具有类人的认知能力，需要建立事件模型，将物体、事件、事实等知识进行有效表征，构建持续学习系统，在任务中利用感知、先验知识、表征学习和知识推理寻找最优策略。“

对于机器行为的研究主要包括：机器行为模仿与解释、机器行为认知和挑战、机器行为失去监督的潜在危害、机器行为的发展及关联等研究范畴。郑南宁介绍道：“大量的智能机器应用于人类社会的各个角落，几乎所有层面。机器行为的进化过程中，机器行为研究面临的挑战，就是如何使人工智能系统具有合作性的行为。“

如今，人工智能的发展中分成四个阶段，目前我们在第三阶段，即神经网络机器学习的阶段，距离第四阶段通用人工智能上，最大的障碍是人工智能缺乏对世界的感知理解和常识性知识，因此有时缺乏合理性的行为。要突破这一层级就要通过具身人工智能。

郑南宁指出，具身智能本身就是一种机器自主感知环境、学习和理解行动的能力。智能体的行为不是一次性发生，它会随着时间的推移而发展，这就需要研究机器获得特定个体或机体行为。其行为的生成机制基于其算法和执行环境，也很容易受到进化历史和与其他智能体交互的影响，所以在研究过程中必须强调，关注点不仅仅是一种行为的出现，而是发展过程中行为机制的变化。

智能体和人工智能行为的信任是密切关联的。智能体可以通过算法直接赋能，或者是利用特定的交互训练、刺激，来塑造机器行为，又或者是通过自身的经验获得某些行为来与人不断地交互，最终朝着环境和人特定的方向进化。

最后，郑南宁提出：“针对这种进化我们需要对它建立起如动物学一般的解释体系，从生成机制、发展、进化的角度去理解在环境中的具身人工智能。并对他们进行伦理上的限制，使他们更可控。“

以下为郑南宁现场演讲精华实录：

大家好，今天我报告的题目是“机器行为与具身智能”。

首先，我们来看一个相对简单的十字路口场景，场景中有行人、有非机动车和机动车，我们看一看它的动态场景是如何构成的？十字路口的交通场景是不可预测的，但场景中的每个对象或称之为Object直觉的判断和他们对相互之间的行为关系的理解，形成了这样一个相互关联的稳定系统。

人在这些场景中能够迅速的理解和判断各个对象在空间及其行为的关联性。而自动驾驶也必须要能够抽象和表述这种关联性，才能做出准确地判断，而事实上我们要让机器机基于规律对交通场景的动态变化进行事先编码是做不到的，我们需要研究在这种交互场景中，多个自主体的自适应行为。

举例来看，在F1比赛中，工作人员利用团队协作可以迅速地完成车辆轮胎的替换工作，如何利用机器人集群协作完成某项任务并给出科学的解释，是一个值得探讨的问题。

讨论1：机器行为模仿与解释

解释行为是一个比产生行为更为困难的任务，因为几乎人类所有的行为都是从环境中学来的，即刺激反应的结果。并不都像思维和情感这样的内部事件，一台图灵机能以一种无法与人类区别的方式活动，但产生出这样的行为模仿并不足以模拟人的智能，因为两者是一个完全不同的问题。解释必须尽可能清晰地给出潜在的概括，并将它们与某些普遍的原理联系起来，这就是认知过程的理解。

如果我们从人工智能技术的发展来看，我们可以把人工智能技术的发展分为如下阶段：

第一阶段，统称之为“专家学习系统”，专家系统是将领域知识和规则交给机器去搜索。

第二阶段，简称为“特征工程”，所谓特征工程是讲事先定义的特征和答案交给机器去学习。

第三阶段，是将原始数据和标签交给机器，利用深度神经网络让机器自动学习特征。在这一阶段人工智能取得了惊人的发展，特别是机器在语音和图像识别与分类能力方面超过了人类。

当前人工智能发展朝着第四阶段的方向发展，人类只需要将任务和目标交给机器，机器就可以像人类一样感知和理解世界，人与人之间或社会会与物理世界自然交互，也就是说在这一阶段探索具有人类意识的人工智能系统，像人类一样在广泛的任务和环境中进行学习和适应，实现通用人工智能。

通用人工智能理论上是具有自我意识、自主思考、学习计划、解决问题以及理解复杂概念的能力，它可以在新的未曾遇到的情景下适应并执行任务，这需要广泛的背景知识和常识，还有抽象思维和判断等人类智能所有的关键特征，这是一个充满着不确定性的未来目标。

讨论2：机器行为面临的挑战

人工通用智能现在不仅仅在技术上面临着重大挑战，而且还面临着道德伦理、社会和法律等一系列重大问题。

研究复杂动态不确定环境中的机器行为，存在着两个基本问题：

一、 

条件问题，是我们不可能枚举出一个行为的所有先决条件；

二、 

分枝问题，是我们不可能枚举出一个行为有可能产生的所有隐性结果。

传统的人工智能基本理论框架是建立在演绎逻辑和语义描述与形式化方法的基础上，形式化的方法不可能为所有的对象或行为建立模型。

机器行为研究面临的挑战，就是如何使人工智能系统具有合作性的行为。

德国心理学家设计了一个儿童心理学实验，实验中一位一岁半的儿童和妈妈坐在同一个房间的角落里，一位成年人走进房间想打开柜门，他一遍遍的撞击着柜门，这时神奇的场景发生了，并没有人直接向这位孩子求助，也没有人向他发出指令，但一岁半的孩子摇摇晃晃走过来，帮助这个成年人打开了柜门。

该实验试图想证明孩子可以自发的帮助别人，但这个实验却对人工智能提出了一个重大挑战，我们能否通过理解这个一岁半孩子的脑内所想，让机器人也能具有这样的智能性、灵活性与合作性行为？

这个实验告诉我们，智能机器不能从工程机器的角度去理解它们，而且要将其视为一系列有自己行为模式及生态反应的个体或机器群体。

另外一个实例，给出一段西安绝句“海棠不惜胭脂色、独立蒙蒙细雨中”。让计算机语言理解的程序和人，分别从一个图像数据库中找出最贴切这段诗的图像。计算机找出了这样一幅图，海棠上挂满着雨滴，正真是“海棠不惜胭脂色、独立蒙蒙细雨中”。而人却给出右边这幅图，一位亭亭玉立的少女在蒙蒙的细雨中没有打伞，行走在幽静的小道上。被测试的人在内心把这位少女比作海棠，在这样的雨天这位少女全然不顾风雨的存在。人类理解诗歌往往是在内心深处将想象力带入现实，通过自身的认知去欣赏。

这首西安绝句是宋代诗人陈与义所写的《春寒》，当时金兵入侵，南宋小朝廷处于山河破碎风飘絮，诗人南渡避难，借助在巴陵友人的后院，自号“园公”。2月的巴陵几乎天天下雨，料峭的春寒还未结束，此时诗人流离失所，漂泊无依，不由地联想起自身的境遇进行感怀，写下了这首诗。

在这里，我们看到一幅图像到了人类观察者的脑中，在他的内心深处将想象力带入了现实，图像变成了生动的场景故事。这里简单的语言与图像的联想，说明许多重要的AI应用，例如机器视觉和自然语言理解需要大量对世界的认识信息。

为此，计算机需要掌握知识，这是几乎所有AI研究者都同意的观点。想象是人的一种虚构的能力，也就是人可以想象不存在事物的能力，但如何更加有效地把知识传授给机器人，依然是我们今天面临的一大挑战。

讨论3：机器行为的研究范围

诺贝尔奖获得者西蒙教授，在《人工科学》这本书中指出：自然科学是关于自然体和自然现象的科学知识，也有人工科学关于人工物体和人工现象的知识。

如今，大量的智能机器应用于人类社会的各个角落，几乎所有层面。机器行为研究关注的是智能机器，而非传统的机械。它的研究范围有：机器行为生成的人工设计，智能体如何凭借经验产生行为。还有机器行为的可解释性，智能体如何根据场景响应机器行为。

机器行为一旦失去监督所带来的潜在危害是什么？

这些问题与智能体和人工智能行为的信任是密切关联的。诺贝尔奖得主、荷兰动物学家Tinbergen提出：想要全面地理解一个演化出来的特性，我们需要回答四个问题：

1、 

行为生成的机制，智能体生成行为的机制基于其算法和执行环境的特点，我们利用可解释性技术可以来理解特定行为模式背后的特定机制；

2、 

行为的发展，智能体的行为是随着时间的推移而发展，这就需要研究机器是如何获得特定个体或机体行为。行为发展可以是工程选择的结果，也可能是来自智能体的经验；

3、 

行为的功能，行为分析需要了解特定行为是如何影响智能体全生命周期功能，研究行为对智能体特定功能的影响；

4、 

行为的进化，智能体容易受到进化历史和与其他智能体交互的影响，从这个角度来看，研究机器行为需要关注智能体的进化。

以上这四个问题就构成了演化思维的四个工具，需要强调的是发展并不仅仅意味着一种行为的出现，而是发展过程中行为机制的变化。

讨论智能个体如何获得特定的行为，即机器行为的发展。这里有三个基本的途径：

第一个途径：人类通过算法直接赋予机器行为的发展；

第二个途径：利用特定的交互训练，刺激、塑造机器行为；

第三个途径：机器通过自身的经验获得某些行为，比如说机器可以通过记忆或强化学习等方式自主获得某种行为的能力。

机器行为的进化过程中，机器行为可以在发展中与所处环境和人不断地交互，朝着环境和人特定的方向进化。

同时由于机器不同于生命体，它的进化可以突破某种生命体的局限性，而且可进化的机器行为可以传播至群体广泛的机器行为存在，也可能受到某些限制，阻止其传播，机器可表现出非常不同于有机进化的轨迹。比如进化后的无人驾驶算法，可以共享至无人驾驶汽车群体，实现行为能力的传播。

对此，我们对人与智能机器的行为关联做一个小结：

1、机器塑造了人类行为：在社会系统中引入智能机器可以改变人类行为的方式，智能机器具有改变社会结构的潜力。

2、人类塑造了机器行为：人类通过对人工智能系统进行主动输入或被动行为观察的训练来塑造机器行为，使用算法直接来改变机器的行为。

3、 

人机混合协同行为：大多数人工智能算法在复杂的混合系统中与人类共存的领域发挥着重要作用，如何分析和刻画这类复杂系统中人机交互的属性和行为，包括合作、竞争和协调都是至关重要的问题。

讨论4：具身智能和行为生成

具身智能是一种机器自主感知环境、学习和理解行动的能力，从生物进化的角度来看，地球上所有智力活动都是生物通过自己的身体与环境交互后，通过自身学习与进化遗留下来的智力遗产。

智能是具身化和情境化的，具身智能强调智能生物的智能化程度和它的身体结构存在着很强的相关性，也就是说身体不是等待加载算法的机器，而是身体本身应该参与算法的进化。

非具身学习和具身学习对比是有差异的。非具身学习一般通过“大模型无监督预训练+小样本有监督微调”范式训练神经网络，训练得到的深度学习模型可以直接部署到不同的硬件环境，即算法的学习独立于硬件与环境，性能表现完全取决于模型的泛化能力。而具身学习通过在虚拟环境中训练大模型得到常识表征，在具体场景中通过强化学习来完成模型的进化，模型可以在特定的硬件和环境中完成自主的适配。

由于大模型利用了超大规模的训练数据，并且包含大量参数，使得它具备了超强的泛化能力与优秀的应用性能。大模型的具身智能行为生成可以分为两大部分：一、人机交互；二、系统与环境的交互在人机交互部分，人与自然语言或图文信息的形式，将任务需求输入到多模态大模型中，模型对不同形式的输入进行特征的嵌入后，完成任务理解和概念推演，并生成知识和决策，最后由机器人生成面向任务指令的相应行为。

在系统与环境交互部分，机器人首先利用自身传感器，完成对情境的具身感知，然后根据大模型的学习结果对情境产生行为，最终完成行为的输出。

讨论5：基于表征学习与因果推理的具身智能计算框架

要想使机器具有类人的认知能力，首先要建立事件模型，将物体、事件、事实等知识进行有效表征，进而构建一个持续学习的系统，在解决一个具体任务时，机器根据感知数据、意识先验、表征学习、知识库进行推理，寻找完成任务的最优策略。

意识先验的概念比较抽象，当你处在一个情景中，试图去理解它，你会意识到它某些现实层面的情景或过去的经历。意识先验是在原始输入和某些更高级表征基础上形成的抽象层次。

讨论6:动态开放环境中的人机协同的具身智能

为了让具身智能表现的更像人类智能，还需要在动态开放的环境中强化人机协同。以往的运动策略学习倾向于把人排除在外，仅由试错、搜索获得尽可能大的长期累积回报的策略，无法适应开放动态的环境。

而人在回路的决策学习，由任务、目标引导搜索，实现行为决策的类人化。此外，还可以通过嵌入式视觉学习、模仿学习和交互学习，引入人的作用。

动态开放环境中人机协同具身智能的一种基本框架。人在回路的人机协同决策可以使具身智能向人类学习。自动驾驶系统通过行为克隆向人类驾驶员学习，自动驾驶系统通过10个小时的学习已具有基本的驾驶行为，但仍然无法避障和应对突发事件。

自动驾驶面临着哪些挑战？

自动驾驶是开放环境中一类重要典型具身智能系统，在复杂交通环境下，自动驾驶安全要有可靠的驾驶行为。

首先，它需要解决复杂交通场景中的“周密感知”，无论天气或照明情况如何，必须在所有条件下检测道路特征。

其次，它需要进行“预行为”的理解，因为人类驾驶员都是根据预行为传达行驶意图。

再次，它需要对“意外遭遇”做出应对，而简单的基于规则的自动驾驶不可能提前为每个场景编码。

最后，“网络安全”，如软件的漏洞或黑客的恶意行为等等。

自动驾驶行为是如何生成的？

首先，系统结合经验与常识、场景理解以及交通态势评估，并利用模型对结构化道路场景和非结构化道路场景进行预训练，生成导航路径。

随后，基于具身智能完成目标状态采样、待选运动路径生成和最优运动路径选择，进行运动规划，最后生出合理的、可执行的驾驶行为。

重点讨论自动驾驶行为决策，将思维抽象为符号计算对人工智能的发展产生了重大的推动作用，但为所有的交通对象建立模型是不可能的。

带来这些困难的一个直接原因是：许多交通场景的复杂性和动态性，并不都是可观测和可控的，行驶过程中对异常情况的处理能力，是无法通过事先大量样本训练得到，而且也无法获得大量的负样本，交通事故就是一大类负样本，而人类驾驶员开车是将车外的无穷状态空间约简为动态变化的“可行驶”的“二域状态空间”，自动驾驶行为决策就是要寻找一个可行驶区域。

因此，从认知层面要解决的问题，就是如何把复杂未知的现实世界，变化成有限空间环境的语义理解，我们把它称之为一种直观的理解。

怎样定义自动驾驶这个问题？

需要把场景感知和情景认知区别开来。

所谓场景是指某个交通场合在一个特定的时间和特定的空间中，具体情景或景象，可以定义为一种实体，当然这种实体的描述是通过传感器的数据来获得的。

情境是指某一段时间和空间许多具体情形的概括，情境的境是指构成和隐含在场景中，相互交织的因素及其相互之间的关系，所以情境计算是对场景中各个对象在空间的行为交互关系解释，交通场景中各种物体或对象空间关系和行为的描述在自动驾驶中就显得非常重要了。

如何发展一种具有进化的、自主学习的自动驾驶系统？

需要从认知的角度去了解人类驾驶员是如何注意并获取交通环境信息的。而交通环境信息是如何在大脑中存储和加工的，特别是在产生驾驶行为的背后存在怎样的内部表征。

首先，我们来看看人类驾驶员如何注意并获取交通环境的信息。在交通场景认知的选择性注意中，目标的重要性是一种高级属性，它包含目标的物理属性、运动属性、行为属性。

其次，我们以交通场景的注意、记忆和学习过程为例，简单讨论人类对交通场景认知的加工机制。人的大脑对感觉记忆中的一些特定信息的注意即选择，对注意到的信息进行组织，再通过学习在短期记忆中建立联系，将长期记忆的信息传递到短期记忆，以连接传入的数据，即整合。最后将短期记忆的内容进行编码，转换为长期记忆。

在组织、整合与编码之间存在着交互机制，实际上人在知道发生了什么之前，他的注意力已被显著性对象所捕获，人类驾驶员对交通场景的理解是在记忆和先验知识的基础上进行的模式匹配。

自动驾驶算法需要在一定程度上引入人类对交通场景认知的加工机制，人类对变化非常敏感，突然变化，比如说颜色、纹理、大小、位置、运动，对注意力影响最大。

注意机制已经成为构建自动驾驶AI架构的灵感来源。

产生驾驶行为的背后存在怎样的内部表征问题？

人类驾驶员在驾驶过程中是将车窗外无穷状态空间约简为动态变化的“可行驶”和“不可行驶”的“二域状态空间”，并根据常识和交通规则，以及对交通场景的感知来产生相应的驾驶行为。

因此，自动驾驶需要对交通环境进行分层的认知表征，它们分别是空间定位层、行为模型层、知识策略层和任务驱动层，这样就可以从认知的层面将复杂、未知的现实世界变换成有效的自觉物体的语义推理。

如何构建自动驾驶环境的“认知地图“？

构建自动驾驶认知地图需要包括车辆、交通标识、障碍物、行人等构成的可行驶区域的基本属性。同时要有递归网络所学习到的关于预注意机制、驾驶意图等高级认知属性，把车辆当前状态与交通知识作为认知地图的一部分。

要根据场景动态的变化，来形成实践上的认知地图的训练。依赖认知地图就可以使自动驾驶系统从类人的角度去理解交通场景正在发生的动态随机变化。

这里进一步给出一种具有选择性注意机制的自动驾驶认知计算实现架构。在这个计算架构中，利用卷积神经网络提取场景的显著性空间特征，这些特征与先验知识相结合，形成一种对时间可视化认知地图，通过长短期记忆的注意机制，界定认知地图中物体间的关联，然后通过价值迭代模型将对环境的认知映射到行为空间，给出行驶决策。

仿真测试也是自动驾驶重要的关键技术之一，自动驾驶汽车在大规模商业化应用前需要进行大量的测试，相关研究报告指出：在不犯错误的情况下，自动驾驶汽车需要行驶4.4亿公里，才能证明其在车祸致死率和人类驾驶员的水平相当。

假设由100辆自动驾驶汽车，每天测试24小时，一年测试365天，测试平均时速60公里每小时，需要耗时8.37年。相当于一辆车在地球与月球之间往返572次，显然采用实际道路测试将耗费大量时间。而仿真测试可以提供一种高效率、低成本的自动驾驶测试。

作为自动驾驶重要的关键技术，仿真测试需要关注的一大挑战为异常交通场景的感知与处理，由于异常交通场景出现概率低、缺乏测试数据，因此需要利用图形学、计算机视觉生成多样化测试数据，在仿真环境中对自动驾驶车辆进行充分快速的测试验证。

这里我们给出了一种基于大模型的自动驾驶仿真技术的基本框架，应用机器学习可以生成多样性交通场景来评价自动驾驶系统在不同交通场景下的驾驶性能，如安全性、舒适性、协调性，以及算法的可靠性，以及是否遵守相关法律法规。该基本框架由数据集包括注入的真实传感器数据、机器场景描述、测试场景分类、典型场景选择与表征、典型场景生成，包含一些副样本等五大部分组成。

这里是自动驾驶仿真系统测试生成多样性交通场景，如前车变道，对交通场景标识识别，夜间会车，以及前方突然出现行人。我们团队开展自动驾驶研究二十余年，走到今天我们取得了很大的进步，但实现完全自动驾驶依然是一个令人兴奋而又望而生畏的艰难挑战。

最后给出一个移动智能体在开放环境下基于视觉和激光雷达生成导航路径的短视频。

今天我的报告就到这里，谢谢大家！

《郑南宁院士：AI赋能教育的知识生产与创造力培养》

分享丨郑南宁  中国工程院院士，曾任西安交通大学校长，获2022年度“吴文俊人工智能最高成就奖”

来源丨陕西数字教育大会

整理丨高校教学创新100人

人工智能作为一种先进的生产力工具，正在引领着人类知识生产的革命。人工智能赋能教育，实际上是近代教育 400 年以来一次重大的变革。为什么这样说？在1632年，近代教育学之父夸美纽斯提出了班级授课。自此，在教育的传统概念中，要有教师，要有教具、教案、教材。近 400 年来，教育基本上都是按照这样的基本模式来开展。

但是今天我们进入了一个数字化的时代，ChatGPT 悄然来到了我们身边，我们不仅面对着和我们一样作为“人”的教师，还面对着一位机器教师。或者说，ChatGPT 按下了加速教育改革的“加速键”，推动教育智能化转型。

教育与人工智能的深度融合，将催生划时代的教育和学习的革命，我们需要重新定义学习，重新定义教育，但是我们在拥抱新技术的同时，还要警惕人工智能的滥用给教育带来的潜在风险。当我们走向人机协同的教育未来，教育会发生什么样的颠覆性变化？需要我们从不同的维度去思考和行动。

01

人类智能的本质和边界

谈到人工智能，我们总是讲它是人类历史上一次重要的演变。为什么这样说？因为我们这个星球，过去40亿年以来，所有生命都是按照有机化学的规则而演化。但是计算机和人工智能的出现，使得我们人类有能力去创造一种无机的智慧生命，未来，我们“人”，一定是和智能的机器并存于这个星球。人工智能极大地影响了我们的生活方式，也改变了我们的工作方式，同时又推动了人类的科学技术发展，它影响了人类的认知，同时也为社会的伦理和政策带来了变革。所以人工智能不同于任何一门自然科学，它是人类历史上一次重要的演变。

因为我们是要用机器来实现人类的智能，那么就要弄清楚人类智力的独有特征是什么；以及要做到像人类一样拥有智能行为，计算机又需要一种什么样的能力。

人类认知的所有高级形式，包括大脑中的概念形式、推理归纳、问题求解、创造力以及记忆和知觉，都是与智力相关的，而智能是对智力的一种度量，人类还有机器所不能比拟的一点，也就是人类使用较少的数据，就可以在广泛的问题上表现出智能行为。

对于当前人工智能的发展而言，怎么能像人类一样用较少的数据在广泛的问题上表现出智能行为，也是人工智能发展追求的目标之一。

前面谈到了人的智能，也谈到了机器的智能，我们再来看看，人类智能的本质和边界在哪里？

人类智能的本质，一是适应性，适者生存，人类进化到今天，它的发展是跟环境进行交互的。二是学习能力，人类可以通过经验不断地改进和优化自身的行为。三是抽象思维，人类可以进行抽象思维，对概念和原则进行归纳、推理和批判。四是创造力，这是人类所独有的一种能力，人类可以产生新的想法、概念，提出一些创新性的解决方案。五是情感和意识。

前三者——适应性、学习能力、抽象思维，机器都能实现，而且在一定程度上比人类表现得更加强大和优秀，但是创造力、情感和意识还是人类所独有的。

那么人类智能的边界又在哪里？弄清边界，我们才能巧妙地利用机器来突破人类智能的边界。

人类智能的边界，一是生物学限制，作为生物体，人类智能受到大脑结构和功能的限制。例如我们的记忆容量，显然比不上机器乃至一个手机，我们的注意力和认知的输入，都是有上限的。二是知识和经验的局限，没有足够的知识和经验，我们就很难去理解和解决某些问题。三是认知偏见，人类的智能受到认知偏见的影响，比如种族、社会制度等等，都可能导致我们在决策和判断时出现错误。四是环境和文化的制约，人类智能的发展受到环境和文化因素的制约，比如教育资源、社会规范等等，都会影响个体的智能发展。

02

AI赋能知识生产和教育

下面我们再来看看 AI 赋能知识生产。

当前，智能技术对人类知识生产和教育的作用越来越大，学习者对技术的依赖性日益增强，我们现在很难想象再回到几十年前那种单一的、传统的教育环境，教育向数字化的发展，不以学习者或者教育者的意志而转移，它是一个发展趋势。

AI赋能知识生产，主要体现在这样六大方面：

一是数据挖掘与分析。机器可以帮助我们从海量数据中提取出有价值的信息和知识。

二是模式识别与预测。社会中的任何一个事物或行为，都可以用模式这样一种概念去定义它。AI能够帮助我们识别复杂系统中的一些模式，从而进行准确的预测和决策。

三是知识自动化。AI可以通过算法和计算来实现知识的自动化创新，这里的自动化已经超越了工厂的自动化这样一种局限的概念。比如律师事务所，就可以利用知识自动化的技术去进行案件的分析，进行法庭的辩论词的整理修改，以及提出对案件的不同的辩护方案等等。

四是智能化协作。早期的教育的信息化、数字化，比如数字图书馆等，可以实现人和机器之间的智能化的协作。

五是知识可视化与表达。课堂中铺设的一些难以理解的教学内容，可以通过图像生动地展现在学生面前，以一种更加直观和生动的方式来表达知识。

六是个性化知识推荐。为学生或者教师提供个性化的知识服务。

下面再来看一看ChatGPT。

我们的学生在学习深度学习时，对一个loss函数不明白，请教老师，老师跟他讲了之后，他还是听不明白。于是他就去问ChatGPT，输入之后（上图红框部分），ChatGPT对这个编码进行了逐行逐句的解释（上图绿框部分），这位学生看了之后茅塞顿开。可以看到，ChatGPT，它可以起到非常好的教学辅导、答疑的作用。

这是我给大三本科生上的一门课，叫《数字信号处理》，这门课是我们这个专业以及工科电类专业的一门硬核课，同学们都感觉很难学，但是这门课又对我们这个专业的学生非常重要。

我就把这个考题让 ChatGPT4 做了一遍。使我们吃惊的是，在我们评分很严格的情况下，ChatGPT4得到了90分（满分100分）。如果按照我们通常不是很严的打分要求的话，ChatGPT4可以得到 97 分。

我们也用国内的某个大模型做了类似的一个考试，成绩令人非常遗憾。分数不仅是不及格，而且是一个个位数。这个差距之大，说明我们的责任更大。

这个视频所展现的是语言的大模型和机器人的结合，在厨房里，主人让机器人到一个抽屉里去拿一袋土豆片，根据主人的指示，机器人把土豆片拿出来了，拿出来的过程中，又给它一些干扰，把土豆片打掉，机器人又去重复地拿。

通过这个视频，我们可以看到，未来5- 10年，如果语言的大模型和实际的机器人去结合，那么在我们大多数人类目前从事的工作上，AI能够表现得比人类更好。

前面我们谈到了人工智能对教育所带来的促进作用，但是正如我一开始谈到的，我们一定要警惕人工智能的滥用，以及它对教育带来的风险和负面影响。

AI 赋能教育，存在的风险有这八个方面：

一是数据隐私和安全问题，隐私的暴露，会让学生受到伤害。二是教育资源的不平等，利用人工智能技术来赋能教育，对于经济不发达的地区，很难在这方面有更大的投入。三是过度依赖AI，我们可能会培养一批不愿意独立思考、不愿意自己去分析问题的学生。四是人际交往能力减弱，因为你是在跟机器打交道。五是缺乏情感支持，学校一个很重要的价值是在于教师与学生的情感的交流，有时候教师的一句话会改变这个学生的一生。六是内容质量和准确性。七是AI偏见问题。八是部分教师失业，我这里讲的部分教师失业是指的一些基础课，大学的教学要适应这样的变化。

我把AI赋能教育的风险也问了ChatGPT，它是这样回答的：

这些内容提醒我们，在应用人工智能技术时，一定要把它所带来的风险放在一个非常重要的位置上去思考。

基于我前面所谈的这些变化，我们现在要对学习和教育要进行一个深入的思考。

可以说，教育将会面对几乎完全无法准备的一种未来。过去我们讲数字化，讲信息化，讲智能化，但是 ChatGPT的出现，让我们隐隐约约看见未来教育变化的一种趋势。如果智能机器成为史上无所不知的“最强大脑”，在学习知识方面，人类肯定学不过机器，那么我们究竟还需要学什么？怎样学习？学习的目标、内容、方法如何变革，才能适应人机协同的智能教育？

数字化教育一个最典型的特征是人机协同，它不仅仅是把教学内容变成数字化，让我们更容易获取，更重要的是，机器也扮演着教师的角色。当人类可以无限量生产以及使用各类智能机器人来满足人类的知识生产和各种需求，那么，作为延续物种生命、传承人类自身文明和知识“再生产”活动的教育，它的价值和意义又如何体现？

这确实值得我们教育工作者和教育管理者深入思考。AI赋能教育正在推动着我们重新定义人的知识和能力的价值。

03

重视创造力培养

我前面谈到，人类所独有的还有创造力、情感和意识。

我给出了一句诗——“海棠不惜胭脂色，独立蒙蒙细雨中”，让机器和人在数据库中找出跟这句诗最贴切的一幅图。

左边是OpenAI的DALL-E找出的海棠花，叶子上流淌着露珠，这张图像和这句诗是非常吻合的。但是诗歌是人们把心里的一种丰富的想象力带入到现实中的表达，和诗人的内心世界和情感密切关联。人类找出的是右边这幅图，一位亭亭玉立的少女行走在幽静的小道上，天上下着蒙蒙细雨，她没有打伞，“海棠不惜胭脂色，独立蒙蒙细雨中”。

这首七言绝句是谁写的？是宋代诗人陈与义写的《春寒》。当年金兵入侵，山河破碎风飘絮，陈与义就跑到湖南巴陵友人的家里，寄居于此。他是一位爱国诗人，用这首《春寒》来表达自己内心那种坚强和孤傲的情感。“二月巴陵日日风，春寒未了怯园公”，他把住在友人家中的自己戏称为“园公”。

这说明什么呢？想象力，它是介于感性与知性之间的中介性的能力，是先天纯粹的，它是创作、创造力的基础。人工智能还无法做到。人类内心世界心理的体验，并由之产生的情感力，是机器无法涌现的。人工智能不能替代的是人类的情感力、想象力，从这个角度而言，比人工智能更智能的还是我们人。

爱因斯坦说过一句话：“想象力比知识更重要。因为知识仅限于我们现在所知道和理解的一切，而想象力涵盖了整个世界，以及未来所知道和了解的一切。”

当然，ChatGPT 对这首七言绝句的视觉想象，用语言表达得是非常惊艳的。第一个回答中它说“背景是细雨纷飞，景色有些模糊，而海棠花在这独立的细雨中显得格外娇媚动人，也让人感到一种清新、恬静的氛围”。第二个回答中它更加展开了，“在一个轻雾缭绕的山间小径上，有一朵盛开的海棠花，它的颜色如同鲜艳的胭脂一般。”这是ChatGPT根据七言绝句用白话文写的一段描述。从中我们可以看到人工智能对语言的理解，达到何等的地步。这也是因为人工智能就是根据人的语言模型才诞生。

所以我们要关注学生的创造力培养。创造力实际上不是知识掌握的能力，也不是说这个孩子聪明，他就有创造力，创造力是一种人格的能力，它表现在想象力、联想力、观测力、思辨力、变通力、好奇心上。

因此，我们现在的教育不能简单地停留在传道授业解惑的层面上，授人以鱼，不如授人以渔，打鱼的工具方法，这是教育的重要目标。

如何培养创造力？我列出了十个方面：

其中“运动与放松”是现在教育往往比较忽视的，大家不要小看体育，体育在一个孩子的成长中非常重要，即便到了成人阶段，运动也是生活中不可或缺的一部分。

培养创造力是一个长期的过程，需要时间和耐心。

简单讲一下培养创造力的创新设计思维，有5 步：共情—定义—构想—原型—验证。当然，这五个阶段不是线性进行的，它是一个反复迭代反馈的过程。

丨案例——五步法的实践

下面举一个案例，讲我们怎么为培养本科生的创新设计思维来进行课程设计。

这门课是让学生动手设计搭建一个微缩的无人驾驶车。

首先在共情阶段，学生要去想象无人驾驶的场景，来理解无人驾驶的意义。接着是定义问题，在你想象的场景中，要实现无人驾驶，问题在哪里？要把问题定义清楚。

在构想阶段，要理清楚，你的想法怎么用物理的形式来形成，也就是脑和手结合的过程。

然后是生成原型，我们提供给学生各种各样的部件，让学生自己去构造。最后是验证阶段，反复验证解决方案是否有效。

结语

教育实际上是一个缓慢、优雅而美妙的过程，应该体现“随风浅入夜，润物细无声”。无论 AI赋能教育发展到何等程度，机器都无法替代师生之间心灵的交流和思想的启迪。教师的师德师风在学生情感、态度、价值观的塑造方面影响尤为突出。无论何时何地，教师的言行举止、道德情操都会直接或间接地影响到学生心灵成长和品德发育。因此，即使在未来，师生面对面的交流、师德师风，依旧是教育活动中不可替代的内涵。

注：本文整理自郑南宁院士在陕西数字教育大会上的主旨报告《AI赋能教育的知识生产与创造力培养》。

据统计，99%的大咖都关注了这个公众号