在马德(dé)里欧洲大學(xué)的公(gōng)开课正式开始前，袁老师邀请大家做了一个線(xiàn)上互动，“人工(gōng)智能(néng)会不会代替人类”。其中(zhōng)，75%的同學(xué)选择了“不会”。

 

类似关于人工(gōng)智能(néng)的讨论每隔一段时间，总会出现在我们的视野，第一个战胜围棋世界冠军的AlphaGo，大热國(guó)产(chǎn)科(kē)幻電(diàn)影《流浪地球2》中(zhōng)的MOSS，引发各行各业激烈讨论的ChatGPT……人工(gōng)智能(néng)与人类的对决，到底谁可(kě)以获胜？我们公(gōng)开课的大多(duō)数同學(xué)看好人类世界。

 

本次公(gōng)开课，袁老师将依次带我们走进万能(néng)的人工(gōng)智能(néng)、复杂的人类思维、伦理(lǐ)道德(dé)困境、独一无二的四个层面，从心理(lǐ)學(xué)的角度，与我们聊聊人工(gōng)智能(néng)。

 

袁菲（Sophie）简介：

• 目前是伦敦大學(xué)學(xué)院(UCL)应用(yòng)心理(lǐ)學(xué)的博士生

—研究领域為(wèi)管理(lǐ)和组织心理(lǐ)學(xué)

• 中(zhōng)國(guó)心理(lǐ)學(xué)學(xué)会和英國(guó)心理(lǐ)學(xué)學(xué)会双注册会员

—某國(guó)际性NGO公(gōng)益组织心理(lǐ)部创始负责人—在字节跳动、新(xīn)浪、國(guó)有(yǒu)银行等企业具(jù)有(yǒu)实战经验

 

 

以下為(wèi)袁菲老师的讲述——

 

01

万能(néng)的人工(gōng)智能(néng)

人工(gōng)智能(néng)是什么？

 

人工(gōng)智能(néng)是计算机科(kē)學(xué)的一个分(fēn)支。人工(gōng)是“人力所能(néng)及制造的”，智能(néng)是“思维、意识、自我等”，人工(gōng)智能(néng)是“产(chǎn)出一种新(xīn)的能(néng)以人类智能(néng)相似的方式做出反应的智能(néng)机器”。

 

1950年的“图灵测试”提出了一个设想，如果有(yǒu)一台机器能(néng)够与人类通过電(diàn)传设备交流，而不能(néng)被辨别出机器身份，那么称这台机器拥有(yǒu)“智能(néng)”。1956年，计算机专家John McCarthy提出“人工(gōng)智能(néng)”一词，同年在达特茅斯學(xué)院举行的一次会议上，科(kē)學(xué)家正式确立了人工(gōng)智能(néng)為(wèi)研究學(xué)科(kē)，并经历了两次繁荣、两度低谷。

 

随着云计算、大数据、机器學(xué)习、自然语言和机器视觉等领域发展迅速，人工(gōng)智能(néng)迎来第三次高潮。“深度學(xué)习”概念被提出，这一次狂潮持续至今。人工(gōng)智能(néng)逐渐接近人类，并被广泛地应用(yòng)于家居机器人、教育、医(yī)疗和无人驾驶等领域。

 

 

比如智能(néng)语言对话模型ChatGPT，它可(kě)以实现搜索功能(néng)，我们可(kě)以向它提问“UEM是什么學(xué)校”；它可(kě)以编写软件，只需告诉它，“创建一个PHP程序来扫描主机名(míng)上的开放端口”；它可(kě)以模仿某人风格发博文(wén)，“按照马丁·路德(dé)·金的语气写一篇博文(wén)”……

 

自动驾驶汽車(chē)也是依靠人工(gōng)智能(néng)、视觉计算、雷达、监控装(zhuāng)置和全球定位系统协同合作(zuò)，让電(diàn)脑可(kě)以在没有(yǒu)任何人类主动的操作(zuò)下，自动安(ān)全地操作(zuò)机动車(chē)辆，行驶到预定目的地。

 

《流浪地球2》中(zhōng)的MOSS，是智能(néng)量子计算机550w。Moss拥有(yǒu)超强算力，给自己起名(míng)字，管理(lǐ)空间站事務(wù)，自主策划危机，是電(diàn)影中(zhōng)令人咂舌的大Boss。听到这里，相信大家对人工(gōng)智能(néng)会有(yǒu)一个概念。那么，有(yǒu)的同學(xué)就会问，我了解这些和我们今天心理(lǐ)學(xué)的课题有(yǒu)什么相关呢(ne)？

 

其实，人工(gōng)智能(néng)现在最难突破的一个局限，就是自我意识，这就要涉及一个心理(lǐ)學(xué)概念，认知cognition。

 

02

复杂的人类思维

人工(gōng)智能(néng)如何思考？

 

“认知”，是指人们获得知识、应用(yòng)知识，或信息加工(gōng)的过程，人们对客观事物(wù)的感知（感觉、知觉）、思维（想象、联想、思考）等都是认知过程。

 

这里需要给大家强调几个点。认知≠知识，认知＝思考方式/思维活动。按照思维内容分(fēn)类，我们可(kě)以把认知分(fēn)為(wèi)动作(zuò)思维、形象思维、逻辑思维；按照思维指向性分(fēn)类，可(kě)以分(fēn)為(wèi)聚合思维、发散思维。為(wèi)了让大家具(jù)體(tǐ)感受思维是怎么发生作(zuò)用(yòng)的，我以双11的优惠券為(wèi)例，请大家不要做过多(duō)的思考，凭借直觉告诉我，你觉得哪张优惠券更省钱。

 

下面这张图，是我帮你们核算后的结果。

 

 

实付5000元减400，反而比实付6800元减520更优惠，并不是付得越多(duō)就越优惠，这样的结果是不是和你们的直觉有(yǒu)冲突呢(ne)？今年双11就不要被这些眼花(huā)缭乱的优惠券骗了啊。

 

其实，我们人类在思考事情的时候，会用(yòng)到两套思考系统。系统1是“快思考”，占到我们日常决策的95%；系统2是“慢思考”，占决策的5%。

 

就像刚刚有(yǒu)同學(xué)立马给我打了一个“50”，觉得这张优惠券最划算，这其实是用(yòng)到“快思考”，具(jù)體(tǐ)欢迎参照我上一次公(gōng)开课讲的《快思考与慢思考》。这里我们着重讲下AI或者说人工(gōng)智能(néng)是怎么思考的？

 

AI思维，是升级的理(lǐ)性推导，100%慢思考2.0，依赖逻辑思维和聚合思维。

 

○ 逻辑思维：在思维过程中(zhōng)以概念、判断、推理(lǐ)的形式来反映事物(wù)本质(zhì)属性和内在规律的思维，概念是支柱。

○ 聚合思维：把各种信息聚合起来思考，朝着同一个方向而得出一个正确答(dá)案的思维。求同是聚合思维的主要特点，即聚合思维是利用(yòng)已有(yǒu)的知识经验或常用(yòng)的方法来解决问题的某种有(yǒu)方向、有(yǒu)范围、有(yǒu)组织、条理(lǐ)性强的思维方式。

 

為(wèi)了更好地向同學(xué)们展示，我请教了人工(gōng)智能(néng)方面的一个博士，他(tā)给了我一个例子：

 

有(yǒu)同學(xué)说4=2，也有(yǒu)同學(xué)说4=8，但如果你问人工(gōng)智能(néng)，AI会很(hěn)肯定地告诉我们4=2，这唯一的答(dá)案。

 

人工(gōng)智能(néng)运用(yòng)“逻辑思维”和“聚合思维”会说4=2，而我们人类运用(yòng)“发散思维”，创新(xīn)性思维，也会说“4=8”，而AI是不具(jù)备发散思维的，因為(wèi)这和逻辑推导冲突。这就是AI现在很(hěn)难突破的一个研究点，即如何做到类脑研究。

 

讲完了智能(néng)运作(zuò)的逻辑，我们来看下人工(gōng)智能(néng)难以突破的另一个困境——

 

03

伦理(lǐ)道德(dé)困境

人工(gōng)智能(néng)如何抉择？

 

首先我们要明白，伦理(lǐ)道德(dé)其实是一个比较抽象的概念，它是：

 

○ 内在的价值理(lǐ)想或者外在的行為(wèi)规范

○ 调整人与人之间以及个人与社会之间关系的行為(wèi)规范的总和

○ 是个體(tǐ)社会化过程中(zhōng)习得道德(dé)准则，并以道德(dé)准则知道行為(wèi)的发展过程，包含情感、认知、行為(wèi)三大要素

 

当情感和认知加在一起，就可(kě)以指导我们的行為(wèi)。那么，我们人為(wèi)什么会产(chǎn)生道德(dé)情感，这样主观的内心情感體(tǐ)验？是因為(wèi)我们可(kě)以移情、共鸣。

 

伦理(lǐ)道德(dé)观可(kě)以习得，婴儿刚来到世界时是不具(jù)备的。正是因為(wèi)后天习得，才产(chǎn)生了爱慕、信任、羞愧等情感。同理(lǐ)，小(xiǎo)朋友不懂得害羞，是因為(wèi)它还没有(yǒu)建立伦理(lǐ)道德(dé)观，需要按阶段习得的，通过不断地社会化去學(xué)会它。

 

心理(lǐ)學(xué)家让·皮亚杰通过“对偶故事法”发现，儿童的道德(dé)判断是从早期的注重行為(wèi)结果的评价向注重行為(wèi)的动机发展，其道德(dé)认知水平从他(tā)律向自律发展。并将儿童的道德(dé)认知发展划分(fēn)為(wèi)四个阶段：前道德(dé)阶段、他(tā)律道德(dé)阶段、初步自律道德(dé)阶段和自律道德(dé)阶段。

 

科(kē)尔伯格又(yòu)将道德(dé)认知细化成“三种水平六个阶段”，围绕“海因兹偷药”的故事，提出了一系列问题，主人公(gōng)面临的难题有(yǒu)点像《我不是药神》中(zhōng)的主人翁因為(wèi)抗癌药被抓的故事。

 

处于“前习俗水平”（9岁以下），会认為(wèi)偷药是不好的；处于“后习俗水平”（16岁以后），会认為(wèi)主人公(gōng)是為(wèi)了救人命才偷药的，所以并没有(yǒu)错。

 

我们成年人会在“后习俗水平”中(zhōng)的“社会契约定向阶段”和“普遍原则的道德(dé)定向阶段”徘徊，感觉到伦理(lǐ)道德(dé)并没有(yǒu)我们想象中(zhōng)那么简单。类似的还有(yǒu)“電(diàn)車(chē)难题”这样两难的道德(dé)选择，“你会不会让火車(chē)改变行驶轨道”？

 

 

我们為(wèi)什么要研究这个，是因為(wèi)人工(gōng)智能(néng)的发展也会面临这样的问题，比如自动驾驶会怎么选择？

 

遇到下图的情况，我们人类会从中(zhōng)间没有(yǒu)人的地方过去，但对于人工(gōng)智能(néng)来讲，由于它不具(jù)备发散思维，无法逆行，会导致它撞向右边的人，因為(wèi)只有(yǒu)这里是可(kě)以通行的。

 

类似的，经过实验，数据也会产(chǎn)生偏见，会认為(wèi)图中(zhōng)的女性风险更高。

 

04

独一无二的人类

对人类本身要充满信心

 

那我们最后总结一下，我希望大家通过刚才的分(fēn)享可(kě)以被我说服，觉得人类是独一无二的。如果你还没有(yǒu)被说服，那我有(yǒu)最后一个手段，这是ChatGPT告诉我的答(dá)案，“人类仍然具(jù)有(yǒu)创造力和想象力等独特的人类能(néng)力”。

 

川航3U8633的驾驶舱风挡破裂，飞行员技(jì )术高超，带领大家安(ān)全备降。后来民(mín)航局根据当时的条件和数据对空难进行了还原。他(tā)们试了十次，让这些最精(jīng)密的计算机去操作(zuò)，模拟机没有(yǒu)一次成功降落。但是在现实，我们人类成功备降了。

 

所以人类之于人工(gōng)智能(néng)，我觉得其实总结下来有(yǒu)这些优势，创造力、逻辑推理(lǐ)、判断、直觉、感官……这些优势是我们近数亿年进化来的，尤其是直觉判断，对感官系统的调用(yòng)，只有(yǒu)人类可(kě)以同时运用(yòng)五感处理(lǐ)信息。

 

还有(yǒu)一个，就是弗洛伊德(dé)提出“冰山(shān)模型”。浮在水平面以上的，我们管它叫意识层级，相较潜意识，只占很(hěn)少部分(fēn)。那有(yǒu)意思的东西来了，人工(gōng)智能(néng)是人造出来的。我们肯定只能(néng)用(yòng)我所知道的东西去创造这个人工(gōng)智能(néng)。那人工(gōng)智能(néng)的基础是不是就在这个水平面以上？

 

是不是被我说服了？觉得人类在这场对决里获胜了。但是我就喜欢给大家出难题，或者说我喜欢给大家留一个比较开放性的结尾。《人类简史》有(yǒu)提到这么一句话：

 

但是今天我们看到的是什么，是不是人工(gōng)智能(néng)把自然选择法则打破了？人工(gōng)智能(néng)，是由我们人类这个具(jù)有(yǒu)智慧的创造者所设计出来的。那自然的演化，地球的进化究竟会变成什么样？我想在这里给大家打一个问号。

 

那今天的内容大概就是这些了，接下来看大家有(yǒu)什么问题。

 

05

Q&A互动答(dá)疑

 

Q：人工(gōng)智能(néng)面临伦理(lǐ)转向，从心理(lǐ)學(xué)的角度看，您认為(wèi)我们应该如何引导AI发展符合伦理(lǐ)呢(ne)?

A：我相信今天大家跟着我學(xué)习了伦理(lǐ)认知发展的阶段，是不是有(yǒu)所启发？对于我们人类来说，伦理(lǐ)道德(dé)是后天习得的。我们就可(kě)以像引导小(xiǎo)婴儿一样来引导AI，去學(xué)会这些伦理(lǐ)。

 

Q：20多(duō)年来，影视作(zuò)品中(zhōng)的AI总是热门话题，老师您觉得AI给予我们的帮助和威胁是什么？

A：每个人都有(yǒu)对这个问题的答(dá)案。我们确实受益于人工(gōng)智能(néng)，也认识到了人工(gōng)智能(néng)后续发展的问题。个人觉得，站在研究心理(lǐ)學(xué)的角度，AI发展在某种程度上佐证了心理(lǐ)學(xué)的重要性。尤其是应用(yòng)心理(lǐ)學(xué)，很(hěn)多(duō)AI算法的基础、逻辑的建立其实是基于心理(lǐ)學(xué)扎实的研究。我们要通过心理(lǐ)學(xué)，首先去了解我们作(zuò)為(wèi)人类如何思考，才能(néng)教会AI如何做到像我们一样去思考。

威胁的话，就像刚我们的开放性结尾，我觉得人工(gōng)智能(néng)的威胁，可(kě)能(néng)更多(duō)的是人类存在的唯一性和独特性吧。我们认為(wèi)，人类之所以區(qū)别于其他(tā)生物(wù)，是因為(wèi)我们具(jù)备了思维，有(yǒu)思考的方式。那如果有(yǒu)一天，人工(gōng)智能(néng)通过几十年的进化，拥有(yǒu)了我们通过数亿年的潜意识的基因影响进化，才拥有(yǒu)意识之后，我们的独特性和唯一性是不是还存在，我觉得这里要打一个问号。

 

Q：是否要设立双重目标？回答(dá)应该让人工(gōng)智能(néng)做什么，也要回答(dá)不该让人工(gōng)智能(néng)做什么，以此更好地让AI為(wèi)我们服務(wù)？

A：就像刚刚我们谈到的，我们先要对自己了解，然后就开始用(yòng)教一个襁褓中(zhōng)的小(xiǎo)婴儿的思维方式，去培养AI。生理(lǐ)和我们不一样，但AI的心理(lǐ)，认知的思维方式可(kě)以后天习得。教给“小(xiǎo)朋友”应该做什么，不应该做什么。

 

心理(lǐ)學(xué)的公(gōng)开课结束了，对人性和人工(gōng)智能(néng)的思考还在继续。再次感謝(xiè)袁老师的精(jīng)彩分(fēn)享，也感謝(xiè)每一位同學(xué)的热情参与。