随着人工智能技术突飞猛进,其对人类文明的潜在影响已成为全球关注的焦点。为了更深刻地理解这场正在发生的变革,我们不能仅限于技术本身,还需要将视野拓展至历史、自然科学乃至古老的神话传说。2025年7月,兰德公司高级政治学家Iskander Rehman在《恩格尔斯贝格观点》(Engelsberg Ideas)上发表研究文章《理解人工智能革命》(Making Sense of the AI Revolution)。文章通过引入多学科的分析框架,探讨了超级人工智能(Artificial Superintelligence)的出现可能带来的机遇、挑战与伦理困境。启元洞见编译了文章的核心观点,以供读者参考。
一、人工智能:
一种比肩“外星智慧”的全新物种
要理解人工智能所带来的深刻变革和无限潜力,我们需要拓宽自身的知识边界,将历史、自然界乃至古代神话纳入思考范畴。一个超级人工智能(Artificial Superintelligence)或通用人工智能(Artificial General Intelligence),其能力将超越人类在几乎所有认知领域的能力。这种高级人工智能的出现,或许可以被看作是与发现先进外星智慧最为相似的事件。更重要的是,许多行业巨头和预测平台认为,这种高级人工智能在未来五到十年内出现的可能性远大于我们一生中发现外星智慧。
这种与外星智慧的类比乍看之下有些夸张,但实际上,它远没有我们想象中那么遥不可及。正如许多顶尖技术专家、伦理学家和哲学家所指出的,一种真正意义上的超级智能,其意义将远超于一项革命性的通用技术。从本质上讲,它的诞生将预示着一个新物种的出现。这个新物种所拥有的能力,在许多人看来,几乎是神一般的存在。事实上,像萨姆·奥尔特曼(Sam Altman)这样的人工智能创造者和企业家,经常用一种狂喜的、近乎神秘的语言来形容人工智能的“魔力”。
这样一个范式转变对人类历史的深远影响是毋庸置疑的。然而,预测其具体走向却异常困难。人工智能与指挥控制系统的深度融合,是否会颠覆核威慑,将我们推入一个充满不确定性的新时代?超级人工智能能否治愈癌症或逆转衰老?它在写作、地理定位等领域的广泛应用,是会增强我们的集体智慧,还是会像麻省理工学院最近的一项研究暗示的那样,将我们个体变成迟钝的庸人?最重要的问题或许是:我们是否正在不经意间创造出一种技术,其发展速度不仅超出了我们的理解能力,甚至对人类自身的存续构成了生存威胁?
二、历史的启示:
从印刷术到原子弹的多维类比
没有任何单一的学科,无论是人文学科还是硬科学,能够帮助我们完全理解后超级人工智能时代即将到来的新世界。我们必须借鉴多种学科的智慧,而历史研究在此刻尤为重要。历史类比虽有其局限性,但能够为我们提供审视过往技术变革的宝贵视角,并提出新的问题。
在所有充满不确定性的时期,那些被人工智能发展速度所吸引或惊恐的评论家们,总是本能地诉诸历史,急切地寻求各种历史类比。
有人提到了15世纪中叶古腾堡发明的活字印刷术,及其对欧洲信息生产和传播方式的彻底革新。就像今天的人工智能一样,知识的突然井喷和信息的广泛传播也伴随着阴暗面。印刷革命虽然加速了创新,但也助长了虚假信息的传播,极大地扩展了国家宣传的影响力,为16、17世纪欧洲可怕的宗教战争火上浇油。正如历史学家Alexander Lee所记录的,文艺复兴时期一些保守的文人对印刷术抱有毫不掩饰的敌意,将其视为虚假信息之源、公共道德的威胁,甚至是对知识的普遍贬低。
另一些当代政策制定者和评论家则更倾向于援引19世纪末期内燃机的例子,及其在推动工业革命中的关键作用。政治学家、美国前国防部官员迈克尔·霍洛维茨(Michael Horowitz)认为,作为一种“赋能者”和“具有多种应用的通用技术”,人工智能“更像是内燃机或电力,而非武器”。如果我们要继续使用机械隐喻,我们甚至可以追溯到18世纪初蒸汽泵的发明。正如乔治·穆瑟(George Musser)所指出的,这些发明是“修修补补和实验的产物”,而非源于“对热力学的深入理解”。然而,它们最终却成为了“无数其他工业革命必要进步的催化剂”。
与此同时,还有一些专家将核武器的诞生与通用人工智能的潜在来临进行类比。他们认为,从曼哈顿计划、美国短暂的核垄断期,到冷战时期威慑理论的复杂性,原子时代的种种教训或许能为我们理解超级智能人工智能的机遇与风险提供启示。
当然,这些类比都有其局限性。内燃机和蒸汽机是纯粹的物理和机械技术,而人工智能虽然严重依赖大规模能源和计算基础设施,但其本质是软件驱动的。印刷机复制人类创作的文本,而人工智能可以生成全新的内容。与核技术相比,人工智能的另一个显著区别在于,一个主权国家难以将其完全“武器化”,并确保其与国家目标完全兼容。
但这些吹毛求疵的批评者们可能忽略了关键点。历史类比不应被视为完美无缺、可以生搬硬套的模板。相反,它们应该被看作是“强大的工具,使决策者能够将当下与过去进行比较,以从中吸取经验教训,从而为他们的判断提供信息”。历史的洞察力教会我们去发现新的问题,而不是去寻找现成的答案。一个敏锐的历史视角能帮助政策制定者在不确定和动荡时期,通过“将不熟悉的事物视为熟悉”来更好地驾驭局面。
正如诺贝尔经济学奖得主达龙·阿西莫格鲁(Daron Acemoglu)所言,人工智能的影响将是多方面的,这种新兴技术可能融合了“印刷机、蒸汽机和原子弹的某些特质,形成一种杂乱无章的混合体”。换言之,将多种类比编织在一起,可能比依赖单一的类比更能帮助我们理解人工智能的复杂性。
三、重新定义智能:
从自然界寻找启示
除了研究历史,关注人工智能的人们也应该花更多时间在自然和进化科学上。近年来,非人类认知领域的新进展,从乌鸦、蜘蛛到头足类动物甚至黏菌,正在从根本上挑战我们长期以来关于智能边界和含义的假设。当像微软的穆斯塔法·苏莱曼(Mustafa Suleyman)这样的行业领袖开始公开将人工智能称为一种新的“数字物种”时,我们应该超越狭隘的“人类中心主义”认知评估。
我们可以从自然界中找到许多例子。科学家们发现,极其复杂的认知形式可以从完全不同的神经结构(例如章鱼的分布式神经节)和相对较小甚至罂粟籽大小的大脑(例如普通乌鸦或微小的昆孔蛛)中产生。更令人惊讶和富有争议的是,无脑甚至单细胞生物似乎也能表现出学习和解决问题的能力。例如,植物虽然没有大脑,但它们拥有复杂的内部信号网络(电化学和激素),以及分散的感应结构。查尔斯·达尔文在1880年就曾提出,植物的根尖几乎“像低等动物的大脑,接收来自感觉器官的印象,并指挥各种运动”,这在当时是颇具前瞻性的想法。
同样,不起眼的黏菌可以解决迷宫问题,预测周期性事件,并在细胞层面传递习得性知识。它已成为在没有神经元的情况下研究原始认知行为的模式生物。还有研究表明,树木可以通过菌根网络(真菌网络)释放化学信号,向附近的其他树木“警告”捕食性昆虫或食草动物的威胁。
这些来自植物智能的教训,比如将“生长”作为一种策略、模块化响应和局部决策节点,正在被转化为工程原理,用于设计需要在不可预测、非结构化环境中运行的机器人。一个有趣的项目开发出一种像藤蔓一样“生长”的软体机器人,它通过模仿植物行为来寻找支撑结构和穿越杂乱空间,利用车载3D打印技术添加材料。同样,无人机工程师长期以来借鉴鸟类学或蜜蜂学(昆虫学中专门研究蜜蜂的分支)来开发群体算法。章鱼柔软灵活的触手也为新一代软体机器人提供了灵感,使其能够挤进狭小空间并灵巧地操作物体。
然而,除了简单地利用自然界的洞察力来优化机器人性能,人工智能开发者还应从更广阔的非人类智能视角中汲取教训,而这或许有着更深层次的意义。最值得注意的是,这种视角可以带来一种必要的谦逊和谨慎态度,帮助我们更好地理解一个真正先进的人工智能将如何产生和运作。一些专家认为,人工智能的发展速度和固有的不可预测性,可能会导致一个“人工智能的寒武纪大爆发”。这个类比虽然并不完美,但它反映了这样一种预期:就像寒武纪时期多样化生命形式的爆发一样,我们可能会在相对短的时间内看到各种各样的人工智能系统涌现,它们的能力、行为和应用将截然不同。
著名的灵长类动物学家弗朗斯·德瓦尔(Frans de Waal)创造了“拟人否定”(anthropodenial)一词,来描述先验地拒绝承认其他生物拥有类人特征(包括认知能力)的行为。如果我们拒绝考虑新兴人工智能系统可能获得的多种智能形式——无论是分散式、具身化还是分布式,我们就有可能陷入另一种同样狭隘的偏见。从在围棋游戏中下出前所未有的棋步,到发展出远超设计预期的感觉运动智能,人工智能系统不断展示出其非同寻常的创造力。这些系统的成功并非因为它们像人类一样“思考”,而是因为工程师们未能预见到它们解决问题的“异类”方式。正如一位顶尖的人工智能研究人员所言,我们应该将“试图解释一个机器学习模型,视为试图解释另一个物种或外星人的脑电波”。鉴于我们对地球上可能存在的智能形式的直觉是如此有限,更密切地关注自然界无疑是明智的第一步。
四、神话的警示:
技术傲慢与失控的古老主题
当谈到围绕超级人工智能创造的那些更具曲折性的道德或伦理困境时,我们应该诉诸何种知识体系或学科?在这种语境下援引神话,而非哲学或道德心理学,可能显得奇怪甚至不切实际。毕竟,正如哲学家卡尔·波普尔(Karl Popper)所写:“科学必须始于对神话的批判”。然而,在这种特殊情况下,重新审视古典神话中那些强大的主题和教训,或许能成为我们理解科学即将向这个世界释放出什么的最有效方式之一。
数千年来,神话的警示和教诲故事一直是重要的社会工具,为社会提供了结构、伦理意义和凝聚力。神话中许多永恒的主题,例如关于傲慢和技术过度扩张的危险、对禁忌知识的渴望,以及在追求力量过程中失控所带来的生存威胁,都与当前围绕人工智能的讨论完美契合。它们为这个日益由工程师主导、缺乏人文学科滋养的人工智能对齐世界,提供了一系列方便、易于理解的“思想实验”。
免责声明:本文转自启元洞见。文章内容系原作者个人观点,本公众号编译/转载仅为分享、传达不同观点,如有任何异议,欢迎联系我们!
推荐阅读
转自丨启元洞见
研究所简介
国际技术经济研究所(IITE)成立于1985年11月,是隶属于国务院发展研究中心的非营利性研究机构,主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题,跟踪和分析世界科技、经济发展态势,为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号,致力于向公众传递前沿技术资讯和科技创新洞见。
地址:北京市海淀区小南庄20号楼A座
电话:010-82635522
微信:iite_er
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...