如果你想好好體(tǐ)驗人工(gōng)智能(néng)，就要反複告訴自己，它是你的朋友。

亞利桑那州立大學(xué)（ASU）副教授埃德(dé)·芬恩（Ed Finn）與他(tā)人合作(zuò)撰寫了一項新(xīn)研究，研究發現：人們與人工(gōng)智能(néng)互動的提示性陳述會影響他(tā)們的實際體(tǐ)驗——影響有(yǒu)好或壞。

近期，《自然機器智能(néng)》發表了芬恩的研究：“通過引導人們對人工(gōng)智能(néng)的信念來影響人與人工(gōng)智能(néng)的交互，可(kě)以提高感知到的可(kě)信度、同理(lǐ)心和有(yǒu)效性”。

芬恩和帕特·帕塔拉努塔蓬(Pat Pataranutaporn)、露比·劉（Ruby Liu）和帕蒂·梅斯（Pattie Maes）等研究人員研究了改變一個人對人工(gōng)智能(néng)系統的心智模型是如何影響他(tā)們與該系統交互的，以及如何向他(tā)們介紹新(xīn)技(jì )術的重要性。

《ASU News》采訪了ASU科(kē)學(xué)與想象力中(zhōng)心創始主任芬恩和麻省理(lǐ)工(gōng)學(xué)院研究員、亞利桑那州立大學(xué)校友帕塔拉努塔蓬，請他(tā)們介紹了這一新(xīn)的用(yòng)戶友好型人工(gōng)智能(néng)方法。

圖源ASU官網

Q：為(wèi)什麽人工(gōng)智能(néng)與其用(yòng)戶之間的信任如此重要？

芬恩：在這項研究中(zhōng)，我發現非常引人注目的一點是，不信任會在對話中(zhōng)滋生出更深的不信任。當我們一開始就對這些系統産(chǎn)生誤解時，就很(hěn)難重新(xīn)獲得信任。但是，如果我們對與人工(gōng)智能(néng)的所有(yǒu)互動都抱有(yǒu)懷疑的态度，我們就會建立對立的關系——與這些系統對抗和競争，而不是想辦(bàn)法與它們合作(zuò)。

每當人類試圖與機器展開直接競争時，比如下棋或駕駛噴氣式飛機，我們最終都會輸掉比賽，因為(wèi)我們是用(yòng)“零和博弈”的思維方式與這些機器對抗。我們需要找到與人工(gōng)智能(néng)合作(zuò)的方式，以便利用(yòng)這些令人難以置信的工(gōng)具(jù)創造更美好的未來，或許成為(wèi)更好的人類。

Q：這對我們了解人們是如何想象人工(gōng)智能(néng)的有(yǒu)何啓示？

芬恩：人類總是在世界上尋找故事。我們看着像人工(gōng)智能(néng)這樣的外來系統，試圖找到有(yǒu)意義的模式，因為(wèi)人工(gōng)智能(néng)顯示出一些智能(néng)和代理(lǐ)的迹象，我們就把它們拟人化。

我們在與Siri或ChatGPT等工(gōng)具(jù)互動時，都會先了解這些系統是什麽以及它們如何工(gōng)作(zuò)。這項研究表明，我們帶入這些互動中(zhōng)的故事會直接影響互動的進展，因為(wèi)在人類對人工(gōng)智能(néng)做出反應和人工(gōng)智能(néng)對人類做出反應之間存在着一種反饋回路。想想我們現在講述的關于人工(gōng)智能(néng)的故事，比如機器人殺手的故事或超級智能(néng)的故事，它們并不能(néng)很(hěn)好地描述這些系統的實際工(gōng)作(zuò)。

我們需要更好的隐喻、更好的故事，來幫助我們應對人工(gōng)智能(néng)這一異類智能(néng)，因為(wèi)它真實地存在于這個世界上——它既不是人類，也不是真正的超人；隻是與衆不同。

圖源ASU官網

Q：請告訴我們你是如何得出你的研究前提的——怎麽用(yòng)一句簡單的話就能(néng)有(yǒu)效地影響用(yòng)戶，讓他(tā)們相信人工(gōng)智能(néng)更有(yǒu)同理(lǐ)心、更值得信賴、性能(néng)更好？

帕塔拉努塔蓬：我們研究的前提受到了醫(yī)學(xué)中(zhōng)“安(ān)慰劑效應”概念的啓發。就像一粒簡單的糖丸可(kě)以通過信念的力量顯著改善病人的治療效果一樣，我們想知道在人類與人工(gōng)智能(néng)的互動中(zhōng)是否會出現類似的現象。

此外，我們的研究還受到了科(kē)幻小(xiǎo)說的影響，這些科(kē)幻小(xiǎo)說探讨了人工(gōng)智能(néng)伴侶的概念，以及這些技(jì )術發展出類似人類特征和情感的潛力。

我們想研究的是，用(yòng)某些關于人工(gōng)智能(néng)内在動機的陳述來引導用(yòng)戶，是否會影響他(tā)們對人工(gōng)智能(néng)的看法以及與人工(gōng)智能(néng)的互動，并最終影響他(tā)們對人工(gōng)智能(néng)的信任和整體(tǐ)體(tǐ)驗。

Q：您在論文(wén)中(zhōng)指出，人們高估了人工(gōng)智能(néng)的能(néng)力，這對人工(gōng)智能(néng)和人類行為(wèi)都有(yǒu)影響。您的意思究竟是指什麽？

帕塔拉努塔蓬：我們發現，一個簡單的引導語句能(néng)有(yǒu)效影響用(yòng)戶與人工(gōng)智能(néng)對話時，其内在動機的心智模型，積極和中(zhōng)性的引導語句能(néng)強烈引導用(yòng)戶的信念。

想象人工(gōng)智能(néng)具(jù)有(yǒu)關愛動機的用(yòng)戶會強烈傾向于認為(wèi)人工(gōng)智能(néng)值得信賴、富有(yǒu)同情心且表現更好。我們還發現，在具(jù)有(yǒu)更多(duō)類似人類行為(wèi)且更複雜的人工(gōng)智能(néng)模型中(zhōng)，啓動和初始心智模型的效果更強。最後，我們展示了用(yòng)戶的心智模型與人工(gōng)智能(néng)的互動以及人工(gōng)智能(néng)的反應之間的反饋回路，二者相輔相成。

Q：你還認為(wèi)，大多(duō)數人都認為(wèi)人工(gōng)智能(néng)沒有(yǒu)感情或同理(lǐ)心。你如何向他(tā)們證明這一點？

帕塔拉努塔蓬：是的，許多(duō)人認為(wèi)人工(gōng)智能(néng)沒有(yǒu)感情或同理(lǐ)心，因為(wèi)他(tā)們知道，人工(gōng)智能(néng)系統歸根結底是機器，被訓練來執行各種任務(wù)。他(tā)們認識到這些系統缺乏情感或主觀體(tǐ)驗的能(néng)力。然而，我們的研究表明，人們仍然可(kě)以形成人工(gōng)智能(néng)具(jù)有(yǒu)同理(lǐ)心或愛心的心智模型。這凸顯了想象力的力量及其對用(yòng)戶感知和與人工(gōng)智能(néng)互動的影響。

Q：所以你認為(wèi)如果早期使用(yòng)者對人工(gōng)智能(néng)有(yǒu)積極的體(tǐ)驗，他(tā)們就更有(yǒu)可(kě)能(néng)繼續使用(yòng)人工(gōng)智能(néng)，反之亦然？

帕塔拉努塔蓬：我喜歡把人工(gōng)智能(néng)視為(wèi)用(yòng)戶的“鏡子”，這突出了用(yòng)戶體(tǐ)驗與他(tā)們對人工(gōng)智能(néng)的心智模式之間的相互關系。積極的體(tǐ)驗可(kě)以塑造積極的心智模式，反過來又(yòu)會影響用(yòng)戶對人工(gōng)智能(néng)的采用(yòng)和持續使用(yòng)。