迈向第三代人工智能(1).docx

《迈向第三代人工智能(1).docx》由会员分享，可在线阅读，更多相关《迈向第三代人工智能(1).docx（27页珍藏版）》请在第一文库网上搜索。

1、中田科学杂A社ZSOENCECHINAPRESS(D2023年热500迫9期IwH1302scievasinicaInfurmA1山“人纪念中国科学创刊70周年专刊评述迈向第三代人工智能张钱,朱军,苏航清华大学人工留能研究院,北京IooO84*通信作者.E-mai1:dcszb收稿口期:2023-07-06;接受口期:2023-08-12;网络出版日期：2023-09-22国家自然科学基金重点国际合作项目(批准号:61620106010)资助摘要人工智能(artificia1inte11igence,AI)自1956年诞生以来,在60多年的发展历史中,一直存在两个相互竞争的范式,即符号主义与连

2、接主义(或称亚符号主义).二者虽然同时起步,但符号主义到20世纪80年代之前一直主导着AI的发展,而连接主义从20世纪90年代才逐步发展起来,到21世纪初进入高潮,大有替代符号主义之势.今天看来,这两种范式只是从不同的侧面模拟人类的心智(或大脑),具有各自的片面性,依靠单个范式不可能触及人类真正的智能.需要建立新的可解释和鲁棒的AI理论与方法,发展安全、可信、可靠和可扩展的A1技术.为实现这个目标,需要将这两种范式结合起来,这是发展AI的必经之路.本文将阐述这一思想,为叙述方便,我们称符号主义为第一代A1称连接主义为第二代AI,将要发展的AI称为第三代A1关键词人工智能,符号主义,连接主义,双

3、空间模型,单空间模型,三空间模型1第一代人工智能人类的智能行为是怎么产生的,纽威尔(4Newe11)、西蒙(H.A.Simon)等口旬提出以下模拟人类大脑的符号模型,即物理符号系统假设.这种系统包括:(1)一组任意的符号集,一组操作符号的规则集;(2)这些操作是纯语法(syntax)的,即只涉及符号的形式不涉及语义,操作的内容包括符号的组合和重组;(3)这些语法具有系统性的语义解释,即它所指向的对象和所描述的事态.1955年麦卡锡(J.McCarthy)和明斯基(M.1.MinskyJ等学者,在达特茅斯人工智能夏季研究项目(theDartmouthSummerResearchProjecton

4、Artificia1Inte11igence)的建议中，明确提出符号AI(artificia1inte11igence)的基本思路:“人类思维的很大一部分是按照推理和猜想规则对，词(words)进行操作所组成的”.根据这一思路,他们提出了基于知识与经验的推理模型,因此我们乂把符号AI称为知识驱动方法.符号A1的开创者最初把注意力放在研究推理（搜索）的通用方法上，如“手段-目的分析”（meanendana1ysis）、分而治之（divideandCOnqUer）、试错（tria1anderror）法等,试图通过通用的方法引用格式:张铉,朱军,苏航,迈向第三代人工智能.中国科学:信息科学,2023

5、,50:1281-1302,doi:10.1360/SSI-2023-0204ZhangB,ZhuJ,SuH.Towardthethirdgenerationofartificia1inte11igence（inChinese）.SciSinInform,2023,50:1281-1302,doi:10.1360SSI-2023-0204c2023中国科学杂志社解决范围广泛的现实问题.由于通用方法是一种弱方法,实际上只能解决“玩具世界”中的简单问题，如机器人摆放积木,下简单的井字棋（tic-tac-toe）等,与解决复杂现实问题相差很远.寻求通用A1的努力遭到了失败,符号AI于20世纪70年代

6、初跌入低谷.幸运的是,斯坦福大学教授费根堡姆（E.A.Feigenbaum）等及时改变了思路,认为知识,特别是特定领域的知识才是人类智能的基础,提出知识工程（know1edgeengineering）与专家系统（expertsystems）等一系列强A1方法,给符号A1带来了希望.他们开发了专家系统DENDRA1（有机化学结构分析系统,19651975）向,随后其他学者相继开发了MYCIN（血液传染病诊断和抗菌素处方,19711977）,XCON（计算机硬件组合系统）等.不过早期的专家系统规模都较小,难以实用.直到1997年5月IBM的深蓝（deepb1ue）国际象棋程序打败世界冠军卡斯帕诺夫

7、（KaSParOV）,符号A1才真正解决大规模复杂系统的开发问题.费根堡姆和雷蒂（R.Raddy）作为设计与构造大型人工智能系统的先驱,共同获得1994年ACM图灵奖.符号A1同样可以应用于机器学习,把“机器学习”看成是基于知识的（归纳）推理.下面以归纳逻辑编程（inductive1ogicprogramming,I1P）为例说明符号A1的学习机制.在I1P中正负样本（具体示例）、背景知识和学习结果（假设）都以一阶逻辑子句（程序）形式表示.学习过程是在假设空间中寻找一个假设,这个假设应尽可能多地包含正例,尽量不包含负例,而且要与背景知识一致.一般情况下假设空间很大,学习十分困难,不过有了背景知

8、识之后,就可以极大地限制假设空间,使学习变成可行.显然,背景知识越多,学习速度越快,效果也越好.为解决不确定问题,近年来,发展了概率归纳逻辑编程方法（probabi1isticinductive1ogicprogramming,PI1P）网.基于知识的学习，由于有背景知识,可以实现小样本学习，而且也很容易推广到不同的领域,学习的鲁棒性也很强.以迁移学习（transfer1earning）“。】为例,可以将学习得到的模型从一种场景更新或者迁移到另一场景,实现跨领域和跨任务的推广.具体做法如下,首先,从学习训练的环境（包括训练数据与方法）出发,发现哪些（即具有某种通用性）知识可以跨域或者跨任务进行

9、迁移,哪些只是针对单个域或单个任务的特定知识,并利用通用知识帮助提升H标域或R标任务的性能.这些通用知识主要通过以下4种渠道迁移到目标域中去,即源域中可利用的实例,源域和目标域中可共享的特征,源域模型可利用的部分,源域中实体之间的特定规则.可见,知识在迁移学习中起关键的作用,因此,符号AI易于跨领域和跨任务推广.在创建符号A1中做出重大贡献的学者中，除费根堡姆和雷蒂（1994）之外,还有明斯基（1969）,麦卡锡（1971）,纽威尔和西蒙（1975）共6位先后获得图灵奖（括号中的数字表示获奖的年份）.总之，第一代AI的成功来自于以下3个基本要素.以深蓝程序为例,第1是知识与经验,“深蓝”从象棋

10、大师已经下过的70万盘棋局和大量56个棋子的残局中,总结出下棋的规则.另外,在象棋大师与深蓝对弈的过程中,通过调试“评价函数”中的6000个参数,把大师的经验引进程序.第2是算法,深蓝采用a-6剪枝算法,有效提高搜索效率.第3是算力（计算能力）,为了达到实时的要求,深蓝使用IBMRS/6000SP2,11.38GF1OPS（浮点运算/秒）,每秒可检查2亿步,或3分钟运行5千万盘棋局（positions）.符号AI有坚实的认知心理学基础,把符号系统作为人类高级心智活动的模型,其优势是，由于符号具有可组合性（compositiona1ity）,可从简单的原子符号组合成复杂的符号串.每个符号都对应着

11、一定的语义,客观上反映了语义对象的可组合性，比如，由简单部件组合成整体等,可组合性是推理的基础,因此符号A1与人类理性智能一样具有可解释性和容易理解.符号A1也存在明显的局限性,目前已有的方法只能解决完全信息和结构化环境下的确定性问题,其中最具代表性的成果是IBM“深蓝”国际象棋程序,它只是在完全信息博弈（决策）中战胜人类,这是博弈中最简单的情况.而人类的认知行为（COgnitiVebehavior）,如决策等都是在信息不完全和非结构化环境下完成的,符号AI距离解决这类问题还很远.图1感知机Figure1Perceptron以自然语言形式表示（离散符号）的人类知识,计算机难以处理,必须寻找计算

12、机易于处理的表示形式,这就是知识表示问题.我们已有的知识表示方法，如产生式规则（productionru1es）,逻辑程序（IOgiCPrOgram）等,虽然计算机易于处理（如推理等）,但都较简单,表现能力有限,难以刻画复杂和不确定的知识,推理也只限于逻辑推理等确定性的推理方法.更加复杂的知识表示与推理形式都在探讨之中,如知识图谱（know1edgegraph）J11K概率推理等“2.符号A1缺乏数学基础,除数理逻辑之外,其他数学工具很难使用,这也是符号AI难以在计算机上高效执行的重要原因.基于知识驱动的强A1只能就事论事地解决特定问题,有没有广泛适用的弱方法,即通用AI,目前还是一个值得探讨

13、的问题.此外,从原始数据（包括文本、图像、语音和视频）中获取知识目前主要靠人工,效率很低,需要探索有效的自动获取方法.此外,真正的智能系统需要常识,常识如何获取、表达和推理还是一个有待解决的问题.常识的数量巨大,构造一个实用的常识库,无异于一项A1的曼哈顿工程”,费时费力.2第二代人工智能感官信息（视觉、听觉和触觉等）是如何存储在记忆中并影响人类行为的？有两种基本观点,一种观点是,这些信息以某种编码的方式表示在（记忆）神经网络中,符号A1属于这一学派.另一种观点是,感官的刺激并不存储在记忆中,而是在神经网络中建立起“刺激-响应”的连接（通道工通过这个“连接”保证智能行为的产生,这是连接主义的主

14、张,连接主义AI就是建立在这个主张之上.1958年罗森布拉特(ROSenbIatt)按照连接主义的思路，建立一个人工神经网络(artificia1neura1network,ANN)的雏形感知机(perceptron)113141.感知机的灵感来自于两个方面,一是1943年麦卡洛克(MCQI1k)Ch)和皮特(PittS)提出的神经元数学模型一一“阈值逻辑”线路,它将神经元的输入转换成离散值,通常称为M-P模型间.二是来自于1949年赫布(D.OHebb)提出的Hebb学习率,即“同时发放的神经元连接在一起”口61感知机如图1所示.1.ifE1rrGAI其中b为阈值,w为权值.A1的创建者从一

15、开始就关注连接主义的思路.1955年麦卡锡等在达特茅斯(Dartmouth)AI研究建议中写道“如何安排一组(假想的)神经元使之形成概念已经获得部分的结果,但问题是需要更多的理论工作”闾,并把它列为会议的研讨内容之一,由感知机组成的ANN只有一个隐蔽层,过于简单.明斯基等于1969年出版的书感知机中指出,感知机只能解决线性可分问题,而且即使增加隐层的数量,由于没有有效的学习算法,感知机也很难实用.明斯基对感知机的批评是致命的,使刚刚起步的连接主义A1跌入低谷达10多年之久.在困难的时期里,在许多学者的共同努力下,30多年来无论在神经网络模型还是学习算法上均取得重大进步,逐步形成了深度学习的成熟

16、理论与技术.其中重要的进展有,第1梯度下降法(gradientdescent),这本来是一个古老的算法,法国数学家柯西(CaUChy)I划早在1847年就已经提出；到1983年俄国数学家尤里涅斯捷诺夫(YuriiNesterovJI19J做了改进,提出了加强版,使它更加好用.第2,反向传播(backpropagation,BP)算法,这是为ANN量身定制的,1970年由芬兰学生Seppo1innainmaa在他的硕士论文中首先提出;1986年鲁梅哈特(D.E.RUmeIhart)和辛顿(GHinton)等做了系统的分析与肯定网.“梯度下降”和“BP”两个算法为ANN的学习训练注入新的动力,它们和“阈值逻辑”、“Hebb学习率”一起构成ANN的4大支柱,除4大支柱