如果你想好好體(tǐ)验人工(gōng)智能(néng)，就要反复告诉自己，它是你的朋友。

亚利桑那州立大學(xué)（ASU）副教授埃德(dé)·芬恩（Ed Finn）与他(tā)人合作(zuò)撰写了一项新(xīn)研究，研究发现：人们与人工(gōng)智能(néng)互动的提示性陈述会影响他(tā)们的实际體(tǐ)验——影响有(yǒu)好或坏。

近期，《自然机器智能(néng)》发表了芬恩的研究：“通过引导人们对人工(gōng)智能(néng)的信念来影响人与人工(gōng)智能(néng)的交互，可(kě)以提高感知到的可(kě)信度、同理(lǐ)心和有(yǒu)效性”。

芬恩和帕特·帕塔拉努塔蓬(Pat Pataranutaporn)、露比·刘（Ruby Liu）和帕蒂·梅斯（Pattie Maes）等研究人员研究了改变一个人对人工(gōng)智能(néng)系统的心智模型是如何影响他(tā)们与该系统交互的，以及如何向他(tā)们介绍新(xīn)技(jì )术的重要性。

《ASU News》采访了ASU科(kē)學(xué)与想象力中(zhōng)心创始主任芬恩和麻省理(lǐ)工(gōng)學(xué)院研究员、亚利桑那州立大學(xué)校友帕塔拉努塔蓬，请他(tā)们介绍了这一新(xīn)的用(yòng)户友好型人工(gōng)智能(néng)方法。

图源ASU官网

Q：為(wèi)什么人工(gōng)智能(néng)与其用(yòng)户之间的信任如此重要？

芬恩：在这项研究中(zhōng)，我发现非常引人注目的一点是，不信任会在对话中(zhōng)滋生出更深的不信任。当我们一开始就对这些系统产(chǎn)生误解时，就很(hěn)难重新(xīn)获得信任。但是，如果我们对与人工(gōng)智能(néng)的所有(yǒu)互动都抱有(yǒu)怀疑的态度，我们就会建立对立的关系——与这些系统对抗和竞争，而不是想办(bàn)法与它们合作(zuò)。

每当人类试图与机器展开直接竞争时，比如下棋或驾驶喷气式飞机，我们最终都会输掉比赛，因為(wèi)我们是用(yòng)“零和博弈”的思维方式与这些机器对抗。我们需要找到与人工(gōng)智能(néng)合作(zuò)的方式，以便利用(yòng)这些令人难以置信的工(gōng)具(jù)创造更美好的未来，或许成為(wèi)更好的人类。

Q：这对我们了解人们是如何想象人工(gōng)智能(néng)的有(yǒu)何启示？

芬恩：人类总是在世界上寻找故事。我们看着像人工(gōng)智能(néng)这样的外来系统，试图找到有(yǒu)意义的模式，因為(wèi)人工(gōng)智能(néng)显示出一些智能(néng)和代理(lǐ)的迹象，我们就把它们拟人化。

我们在与Siri或ChatGPT等工(gōng)具(jù)互动时，都会先了解这些系统是什么以及它们如何工(gōng)作(zuò)。这项研究表明，我们带入这些互动中(zhōng)的故事会直接影响互动的进展，因為(wèi)在人类对人工(gōng)智能(néng)做出反应和人工(gōng)智能(néng)对人类做出反应之间存在着一种反馈回路。想想我们现在讲述的关于人工(gōng)智能(néng)的故事，比如机器人杀手的故事或超级智能(néng)的故事，它们并不能(néng)很(hěn)好地描述这些系统的实际工(gōng)作(zuò)。

我们需要更好的隐喻、更好的故事，来帮助我们应对人工(gōng)智能(néng)这一异类智能(néng)，因為(wèi)它真实地存在于这个世界上——它既不是人类，也不是真正的超人；只是与众不同。

图源ASU官网

Q：请告诉我们你是如何得出你的研究前提的——怎么用(yòng)一句简单的话就能(néng)有(yǒu)效地影响用(yòng)户，让他(tā)们相信人工(gōng)智能(néng)更有(yǒu)同理(lǐ)心、更值得信赖、性能(néng)更好？

帕塔拉努塔蓬：我们研究的前提受到了医(yī)學(xué)中(zhōng)“安(ān)慰剂效应”概念的启发。就像一粒简单的糖丸可(kě)以通过信念的力量显著改善病人的治疗效果一样，我们想知道在人类与人工(gōng)智能(néng)的互动中(zhōng)是否会出现类似的现象。

此外，我们的研究还受到了科(kē)幻小(xiǎo)说的影响，这些科(kē)幻小(xiǎo)说探讨了人工(gōng)智能(néng)伴侣的概念，以及这些技(jì )术发展出类似人类特征和情感的潜力。

我们想研究的是，用(yòng)某些关于人工(gōng)智能(néng)内在动机的陈述来引导用(yòng)户，是否会影响他(tā)们对人工(gōng)智能(néng)的看法以及与人工(gōng)智能(néng)的互动，并最终影响他(tā)们对人工(gōng)智能(néng)的信任和整體(tǐ)體(tǐ)验。

Q：您在论文(wén)中(zhōng)指出，人们高估了人工(gōng)智能(néng)的能(néng)力，这对人工(gōng)智能(néng)和人类行為(wèi)都有(yǒu)影响。您的意思究竟是指什么？

帕塔拉努塔蓬：我们发现，一个简单的引导语句能(néng)有(yǒu)效影响用(yòng)户与人工(gōng)智能(néng)对话时，其内在动机的心智模型，积极和中(zhōng)性的引导语句能(néng)强烈引导用(yòng)户的信念。

想象人工(gōng)智能(néng)具(jù)有(yǒu)关爱动机的用(yòng)户会强烈倾向于认為(wèi)人工(gōng)智能(néng)值得信赖、富有(yǒu)同情心且表现更好。我们还发现，在具(jù)有(yǒu)更多(duō)类似人类行為(wèi)且更复杂的人工(gōng)智能(néng)模型中(zhōng)，启动和初始心智模型的效果更强。最后，我们展示了用(yòng)户的心智模型与人工(gōng)智能(néng)的互动以及人工(gōng)智能(néng)的反应之间的反馈回路，二者相辅相成。

Q：你还认為(wèi)，大多(duō)数人都认為(wèi)人工(gōng)智能(néng)没有(yǒu)感情或同理(lǐ)心。你如何向他(tā)们证明这一点？

帕塔拉努塔蓬：是的，许多(duō)人认為(wèi)人工(gōng)智能(néng)没有(yǒu)感情或同理(lǐ)心，因為(wèi)他(tā)们知道，人工(gōng)智能(néng)系统归根结底是机器，被训练来执行各种任務(wù)。他(tā)们认识到这些系统缺乏情感或主观體(tǐ)验的能(néng)力。然而，我们的研究表明，人们仍然可(kě)以形成人工(gōng)智能(néng)具(jù)有(yǒu)同理(lǐ)心或爱心的心智模型。这凸显了想象力的力量及其对用(yòng)户感知和与人工(gōng)智能(néng)互动的影响。

Q：所以你认為(wèi)如果早期使用(yòng)者对人工(gōng)智能(néng)有(yǒu)积极的體(tǐ)验，他(tā)们就更有(yǒu)可(kě)能(néng)继续使用(yòng)人工(gōng)智能(néng)，反之亦然？

帕塔拉努塔蓬：我喜欢把人工(gōng)智能(néng)视為(wèi)用(yòng)户的“镜子”，这突出了用(yòng)户體(tǐ)验与他(tā)们对人工(gōng)智能(néng)的心智模式之间的相互关系。积极的體(tǐ)验可(kě)以塑造积极的心智模式，反过来又(yòu)会影响用(yòng)户对人工(gōng)智能(néng)的采用(yòng)和持续使用(yòng)。