在馬德(dé)裏歐洲大學(xué)的公(gōng)開課正式開始前，袁老師邀請大家做了一個線(xiàn)上互動，“人工(gōng)智能(néng)會不會代替人類”。其中(zhōng)，75%的同學(xué)選擇了“不會”。

 

類似關于人工(gōng)智能(néng)的讨論每隔一段時間，總會出現在我們的視野，第一個戰勝圍棋世界冠軍的AlphaGo，大熱國(guó)産(chǎn)科(kē)幻電(diàn)影《流浪地球2》中(zhōng)的MOSS，引發各行各業激烈讨論的ChatGPT……人工(gōng)智能(néng)與人類的對決，到底誰可(kě)以獲勝？我們公(gōng)開課的大多(duō)數同學(xué)看好人類世界。

 

本次公(gōng)開課，袁老師将依次帶我們走進萬能(néng)的人工(gōng)智能(néng)、複雜的人類思維、倫理(lǐ)道德(dé)困境、獨一無二的四個層面，從心理(lǐ)學(xué)的角度，與我們聊聊人工(gōng)智能(néng)。

 

袁菲（Sophie）簡介：

• 目前是倫敦大學(xué)學(xué)院(UCL)應用(yòng)心理(lǐ)學(xué)的博士生

—研究領域為(wèi)管理(lǐ)和組織心理(lǐ)學(xué)

• 中(zhōng)國(guó)心理(lǐ)學(xué)學(xué)會和英國(guó)心理(lǐ)學(xué)學(xué)會雙注冊會員

—某國(guó)際性NGO公(gōng)益組織心理(lǐ)部創始負責人—在字節跳動、新(xīn)浪、國(guó)有(yǒu)銀行等企業具(jù)有(yǒu)實戰經驗

 

 

以下為(wèi)袁菲老師的講述——

 

01

萬能(néng)的人工(gōng)智能(néng)

人工(gōng)智能(néng)是什麽？

 

人工(gōng)智能(néng)是計算機科(kē)學(xué)的一個分(fēn)支。人工(gōng)是“人力所能(néng)及制造的”，智能(néng)是“思維、意識、自我等”，人工(gōng)智能(néng)是“産(chǎn)出一種新(xīn)的能(néng)以人類智能(néng)相似的方式做出反應的智能(néng)機器”。

 

1950年的“圖靈測試”提出了一個設想，如果有(yǒu)一台機器能(néng)夠與人類通過電(diàn)傳設備交流，而不能(néng)被辨别出機器身份，那麽稱這台機器擁有(yǒu)“智能(néng)”。1956年，計算機專家John McCarthy提出“人工(gōng)智能(néng)”一詞，同年在達特茅斯學(xué)院舉行的一次會議上，科(kē)學(xué)家正式确立了人工(gōng)智能(néng)為(wèi)研究學(xué)科(kē)，并經曆了兩次繁榮、兩度低谷。

 

随着雲計算、大數據、機器學(xué)習、自然語言和機器視覺等領域發展迅速，人工(gōng)智能(néng)迎來第三次高潮。“深度學(xué)習”概念被提出，這一次狂潮持續至今。人工(gōng)智能(néng)逐漸接近人類，并被廣泛地應用(yòng)于家居機器人、教育、醫(yī)療和無人駕駛等領域。

 

 

比如智能(néng)語言對話模型ChatGPT，它可(kě)以實現搜索功能(néng)，我們可(kě)以向它提問“UEM是什麽學(xué)校”；它可(kě)以編寫軟件，隻需告訴它，“創建一個PHP程序來掃描主機名(míng)上的開放端口”；它可(kě)以模仿某人風格發博文(wén)，“按照馬丁·路德(dé)·金的語氣寫一篇博文(wén)”……

 

自動駕駛汽車(chē)也是依靠人工(gōng)智能(néng)、視覺計算、雷達、監控裝(zhuāng)置和全球定位系統協同合作(zuò)，讓電(diàn)腦可(kě)以在沒有(yǒu)任何人類主動的操作(zuò)下，自動安(ān)全地操作(zuò)機動車(chē)輛，行駛到預定目的地。

 

《流浪地球2》中(zhōng)的MOSS，是智能(néng)量子計算機550w。Moss擁有(yǒu)超強算力，給自己起名(míng)字，管理(lǐ)空間站事務(wù)，自主策劃危機，是電(diàn)影中(zhōng)令人咂舌的大Boss。聽到這裏，相信大家對人工(gōng)智能(néng)會有(yǒu)一個概念。那麽，有(yǒu)的同學(xué)就會問，我了解這些和我們今天心理(lǐ)學(xué)的課題有(yǒu)什麽相關呢(ne)？

 

其實，人工(gōng)智能(néng)現在最難突破的一個局限，就是自我意識，這就要涉及一個心理(lǐ)學(xué)概念，認知cognition。

 

02

複雜的人類思維

人工(gōng)智能(néng)如何思考？

 

“認知”，是指人們獲得知識、應用(yòng)知識，或信息加工(gōng)的過程，人們對客觀事物(wù)的感知（感覺、知覺）、思維（想象、聯想、思考）等都是認知過程。

 

這裏需要給大家強調幾個點。認知≠知識，認知＝思考方式/思維活動。按照思維内容分(fēn)類，我們可(kě)以把認知分(fēn)為(wèi)動作(zuò)思維、形象思維、邏輯思維；按照思維指向性分(fēn)類，可(kě)以分(fēn)為(wèi)聚合思維、發散思維。為(wèi)了讓大家具(jù)體(tǐ)感受思維是怎麽發生作(zuò)用(yòng)的，我以雙11的優惠券為(wèi)例，請大家不要做過多(duō)的思考，憑借直覺告訴我，你覺得哪張優惠券更省錢。

 

下面這張圖，是我幫你們核算後的結果。

 

 

實付5000元減400，反而比實付6800元減520更優惠，并不是付得越多(duō)就越優惠，這樣的結果是不是和你們的直覺有(yǒu)沖突呢(ne)？今年雙11就不要被這些眼花(huā)缭亂的優惠券騙了啊。

 

其實，我們人類在思考事情的時候，會用(yòng)到兩套思考系統。系統1是“快思考”，占到我們日常決策的95%；系統2是“慢思考”，占決策的5%。

 

就像剛剛有(yǒu)同學(xué)立馬給我打了一個“50”，覺得這張優惠券最劃算，這其實是用(yòng)到“快思考”，具(jù)體(tǐ)歡迎參照我上一次公(gōng)開課講的《快思考與慢思考》。這裏我們着重講下AI或者說人工(gōng)智能(néng)是怎麽思考的？

 

AI思維，是升級的理(lǐ)性推導，100%慢思考2.0，依賴邏輯思維和聚合思維。

 

○ 邏輯思維：在思維過程中(zhōng)以概念、判斷、推理(lǐ)的形式來反映事物(wù)本質(zhì)屬性和内在規律的思維，概念是支柱。

○ 聚合思維：把各種信息聚合起來思考，朝着同一個方向而得出一個正确答(dá)案的思維。求同是聚合思維的主要特點，即聚合思維是利用(yòng)已有(yǒu)的知識經驗或常用(yòng)的方法來解決問題的某種有(yǒu)方向、有(yǒu)範圍、有(yǒu)組織、條理(lǐ)性強的思維方式。

 

為(wèi)了更好地向同學(xué)們展示，我請教了人工(gōng)智能(néng)方面的一個博士，他(tā)給了我一個例子：

 

有(yǒu)同學(xué)說4=2，也有(yǒu)同學(xué)說4=8，但如果你問人工(gōng)智能(néng)，AI會很(hěn)肯定地告訴我們4=2，這唯一的答(dá)案。

 

人工(gōng)智能(néng)運用(yòng)“邏輯思維”和“聚合思維”會說4=2，而我們人類運用(yòng)“發散思維”，創新(xīn)性思維，也會說“4=8”，而AI是不具(jù)備發散思維的，因為(wèi)這和邏輯推導沖突。這就是AI現在很(hěn)難突破的一個研究點，即如何做到類腦研究。

 

講完了智能(néng)運作(zuò)的邏輯，我們來看下人工(gōng)智能(néng)難以突破的另一個困境——

 

03

倫理(lǐ)道德(dé)困境

人工(gōng)智能(néng)如何抉擇？

 

首先我們要明白，倫理(lǐ)道德(dé)其實是一個比較抽象的概念，它是：

 

○ 内在的價值理(lǐ)想或者外在的行為(wèi)規範

○ 調整人與人之間以及個人與社會之間關系的行為(wèi)規範的總和

○ 是個體(tǐ)社會化過程中(zhōng)習得道德(dé)準則，并以道德(dé)準則知道行為(wèi)的發展過程，包含情感、認知、行為(wèi)三大要素

 

當情感和認知加在一起，就可(kě)以指導我們的行為(wèi)。那麽，我們人為(wèi)什麽會産(chǎn)生道德(dé)情感，這樣主觀的内心情感體(tǐ)驗？是因為(wèi)我們可(kě)以移情、共鳴。

 

倫理(lǐ)道德(dé)觀可(kě)以習得，嬰兒剛來到世界時是不具(jù)備的。正是因為(wèi)後天習得，才産(chǎn)生了愛慕、信任、羞愧等情感。同理(lǐ)，小(xiǎo)朋友不懂得害羞，是因為(wèi)它還沒有(yǒu)建立倫理(lǐ)道德(dé)觀，需要按階段習得的，通過不斷地社會化去學(xué)會它。

 

心理(lǐ)學(xué)家讓·皮亞傑通過“對偶故事法”發現，兒童的道德(dé)判斷是從早期的注重行為(wèi)結果的評價向注重行為(wèi)的動機發展，其道德(dé)認知水平從他(tā)律向自律發展。并将兒童的道德(dé)認知發展劃分(fēn)為(wèi)四個階段：前道德(dé)階段、他(tā)律道德(dé)階段、初步自律道德(dé)階段和自律道德(dé)階段。

 

科(kē)爾伯格又(yòu)将道德(dé)認知細化成“三種水平六個階段”，圍繞“海因茲偷藥”的故事，提出了一系列問題，主人公(gōng)面臨的難題有(yǒu)點像《我不是藥神》中(zhōng)的主人翁因為(wèi)抗癌藥被抓的故事。

 

處于“前習俗水平”（9歲以下），會認為(wèi)偷藥是不好的；處于“後習俗水平”（16歲以後），會認為(wèi)主人公(gōng)是為(wèi)了救人命才偷藥的，所以并沒有(yǒu)錯。

 

我們成年人會在“後習俗水平”中(zhōng)的“社會契約定向階段”和“普遍原則的道德(dé)定向階段”徘徊，感覺到倫理(lǐ)道德(dé)并沒有(yǒu)我們想象中(zhōng)那麽簡單。類似的還有(yǒu)“電(diàn)車(chē)難題”這樣兩難的道德(dé)選擇，“你會不會讓火車(chē)改變行駛軌道”？

 

 

我們為(wèi)什麽要研究這個，是因為(wèi)人工(gōng)智能(néng)的發展也會面臨這樣的問題，比如自動駕駛會怎麽選擇？

 

遇到下圖的情況，我們人類會從中(zhōng)間沒有(yǒu)人的地方過去，但對于人工(gōng)智能(néng)來講，由于它不具(jù)備發散思維，無法逆行，會導緻它撞向右邊的人，因為(wèi)隻有(yǒu)這裏是可(kě)以通行的。

 

類似的，經過實驗，數據也會産(chǎn)生偏見，會認為(wèi)圖中(zhōng)的女性風險更高。

 

04

獨一無二的人類

對人類本身要充滿信心

 

那我們最後總結一下，我希望大家通過剛才的分(fēn)享可(kě)以被我說服，覺得人類是獨一無二的。如果你還沒有(yǒu)被說服，那我有(yǒu)最後一個手段，這是ChatGPT告訴我的答(dá)案，“人類仍然具(jù)有(yǒu)創造力和想象力等獨特的人類能(néng)力”。

 

川航3U8633的駕駛艙風擋破裂，飛行員技(jì )術高超，帶領大家安(ān)全備降。後來民(mín)航局根據當時的條件和數據對空難進行了還原。他(tā)們試了十次，讓這些最精(jīng)密的計算機去操作(zuò)，模拟機沒有(yǒu)一次成功降落。但是在現實，我們人類成功備降了。

 

所以人類之于人工(gōng)智能(néng)，我覺得其實總結下來有(yǒu)這些優勢，創造力、邏輯推理(lǐ)、判斷、直覺、感官……這些優勢是我們近數億年進化來的，尤其是直覺判斷，對感官系統的調用(yòng)，隻有(yǒu)人類可(kě)以同時運用(yòng)五感處理(lǐ)信息。

 

還有(yǒu)一個，就是弗洛伊德(dé)提出“冰山(shān)模型”。浮在水平面以上的，我們管它叫意識層級，相較潛意識，隻占很(hěn)少部分(fēn)。那有(yǒu)意思的東西來了，人工(gōng)智能(néng)是人造出來的。我們肯定隻能(néng)用(yòng)我所知道的東西去創造這個人工(gōng)智能(néng)。那人工(gōng)智能(néng)的基礎是不是就在這個水平面以上？

 

是不是被我說服了？覺得人類在這場對決裏獲勝了。但是我就喜歡給大家出難題，或者說我喜歡給大家留一個比較開放性的結尾。《人類簡史》有(yǒu)提到這麽一句話：

 

但是今天我們看到的是什麽，是不是人工(gōng)智能(néng)把自然選擇法則打破了？人工(gōng)智能(néng)，是由我們人類這個具(jù)有(yǒu)智慧的創造者所設計出來的。那自然的演化，地球的進化究竟會變成什麽樣？我想在這裏給大家打一個問号。

 

那今天的内容大概就是這些了，接下來看大家有(yǒu)什麽問題。

 

05

Q&A互動答(dá)疑

 

Q：人工(gōng)智能(néng)面臨倫理(lǐ)轉向，從心理(lǐ)學(xué)的角度看，您認為(wèi)我們應該如何引導AI發展符合倫理(lǐ)呢(ne)?

A：我相信今天大家跟着我學(xué)習了倫理(lǐ)認知發展的階段，是不是有(yǒu)所啓發？對于我們人類來說，倫理(lǐ)道德(dé)是後天習得的。我們就可(kě)以像引導小(xiǎo)嬰兒一樣來引導AI，去學(xué)會這些倫理(lǐ)。

 

Q：20多(duō)年來，影視作(zuò)品中(zhōng)的AI總是熱門話題，老師您覺得AI給予我們的幫助和威脅是什麽？

A：每個人都有(yǒu)對這個問題的答(dá)案。我們确實受益于人工(gōng)智能(néng)，也認識到了人工(gōng)智能(néng)後續發展的問題。個人覺得，站在研究心理(lǐ)學(xué)的角度，AI發展在某種程度上佐證了心理(lǐ)學(xué)的重要性。尤其是應用(yòng)心理(lǐ)學(xué)，很(hěn)多(duō)AI算法的基礎、邏輯的建立其實是基于心理(lǐ)學(xué)紮實的研究。我們要通過心理(lǐ)學(xué)，首先去了解我們作(zuò)為(wèi)人類如何思考，才能(néng)教會AI如何做到像我們一樣去思考。

威脅的話，就像剛我們的開放性結尾，我覺得人工(gōng)智能(néng)的威脅，可(kě)能(néng)更多(duō)的是人類存在的唯一性和獨特性吧。我們認為(wèi)，人類之所以區(qū)别于其他(tā)生物(wù)，是因為(wèi)我們具(jù)備了思維，有(yǒu)思考的方式。那如果有(yǒu)一天，人工(gōng)智能(néng)通過幾十年的進化，擁有(yǒu)了我們通過數億年的潛意識的基因影響進化，才擁有(yǒu)意識之後，我們的獨特性和唯一性是不是還存在，我覺得這裏要打一個問号。

 

Q：是否要設立雙重目标？回答(dá)應該讓人工(gōng)智能(néng)做什麽，也要回答(dá)不該讓人工(gōng)智能(néng)做什麽，以此更好地讓AI為(wèi)我們服務(wù)？

A：就像剛剛我們談到的，我們先要對自己了解，然後就開始用(yòng)教一個襁褓中(zhōng)的小(xiǎo)嬰兒的思維方式，去培養AI。生理(lǐ)和我們不一樣，但AI的心理(lǐ)，認知的思維方式可(kě)以後天習得。教給“小(xiǎo)朋友”應該做什麽，不應該做什麽。

 

心理(lǐ)學(xué)的公(gōng)開課結束了，對人性和人工(gōng)智能(néng)的思考還在繼續。再次感謝(xiè)袁老師的精(jīng)彩分(fēn)享，也感謝(xiè)每一位同學(xué)的熱情參與。