人與人工智能的邊界究竟在哪里？
4月25日，由中國(guó)科技產(chǎn)業(yè)智庫(kù)「甲子光年」主辦、上海市信息服務(wù)業(yè)行業(yè)協(xié)會(huì)支持的「共赴山?！?023甲子引力X智能新世代」峰會(huì)在上海召開(kāi)?，F(xiàn)場(chǎng)30余位嘉賓與數(shù)百位科技從業(yè)者共同全方位聚焦新一代人工智能，為科技與產(chǎn)業(yè)的結(jié)合尋找新機(jī)會(huì)。
在當(dāng)天下午的《明天過(guò)后：走進(jìn)通用人工智能時(shí)代》主題圓桌中，維智科技CTO劉泉、天壤創(chuàng)始人&CEO薛貴榮、啟元世界聯(lián)合創(chuàng)始人&首席算法官王湘君、特贊聯(lián)合創(chuàng)始人王喆、北極光創(chuàng)投合伙人張朋、甲子光年王博圍繞智能的定義、人與機(jī)器的界限、人類的“自留地”等話題展開(kāi)討論。
(資料圖片僅供參考)
以下是本場(chǎng)圓桌的交流實(shí)錄，「甲子光年」整理刪改：
1.新AI時(shí)代，
“智能”是否需要被重新定義？
王博（主持人）：這場(chǎng)圓桌論壇的主題是《明天過(guò)后：走進(jìn)通用人工智能時(shí)代》。首先，我們來(lái)關(guān)注“智能”這個(gè)詞。如何定義“智能”？我們會(huì)想到著名的圖靈測(cè)試，這是衡量AI智能程度的重要標(biāo)準(zhǔn)。但是，在ChatGPT出現(xiàn)后，有人認(rèn)為，圖靈測(cè)試已經(jīng)過(guò)時(shí)，無(wú)法用來(lái)檢測(cè)AI的發(fā)展程度與智能水平。對(duì)于ChatGPT，我周圍很多朋友評(píng)價(jià)它“像一個(gè)人”。我想請(qǐng)各位嘉賓給“智能”下一個(gè)定義。另外，在ChatGPT出現(xiàn)后，這個(gè)定義是否發(fā)生過(guò)變化？
劉泉：關(guān)于智能的定義，我感覺(jué)不僅僅是一個(gè)技術(shù)問(wèn)題，可能在一定意義上也上升到了哲學(xué)的高度。我認(rèn)為智能是一個(gè)生命體，通過(guò)感知理解和一定的交互獲得進(jìn)一步反饋，不斷形成個(gè)體層面的一個(gè)認(rèn)知、理解和思考，進(jìn)而會(huì)發(fā)生一些行動(dòng)，包括用語(yǔ)言的方式和外界進(jìn)行交互以及自己產(chǎn)生進(jìn)一步的決策。這是我在寬泛意義上對(duì)智能的理解。
包括剛剛主持人提到的圖靈測(cè)試是否有用，我是這么理解的：在提出圖靈的時(shí)代，人對(duì)于計(jì)算機(jī)的理解更多地處于純粹的計(jì)算層面。我們通過(guò)黑盒子，對(duì)一個(gè)人、一個(gè)機(jī)器提一個(gè)問(wèn)題，來(lái)辨別人與機(jī)器。如果今天把ChatGPT放在后面，做類似的Q&A的話，這個(gè)檢測(cè)的理念我是比較認(rèn)同的。隨著硅基生命自己的認(rèn)知和決策能力的不斷提升，我們很難對(duì)其真實(shí)性進(jìn)行辨別。就像剛剛嘉賓展示的數(shù)字人和一個(gè)真實(shí)人，已經(jīng)很難區(qū)別出哪個(gè)是真人了。但如果再追問(wèn)一些很深層次的問(wèn)題，包括價(jià)值觀、創(chuàng)造、倫理等等方面，這些問(wèn)題的引入也許可以幫助我們對(duì)不同生命體智能的階段進(jìn)行劃分或者區(qū)隔。
薛貴榮：的確，GPT-4發(fā)布以后，大家對(duì)智能的概念可能和聰明這個(gè)詞的聯(lián)系更加緊密了。大家覺(jué)得GPT“講人話”了，好像也表現(xiàn)得挺聰明的。我覺(jué)得也可以從另外一個(gè)角度定義新的概念，叫機(jī)器智能。首先是記憶的能力。機(jī)器和人的記憶有非常典型的不同，機(jī)器的記憶能力無(wú)疑巨大。其次，我認(rèn)為機(jī)器智能具備像創(chuàng)造力、情感等能力。雖然GPT-4發(fā)布以后，大家感覺(jué)在專業(yè)上，人類也受到了機(jī)器的挑戰(zhàn)，GPT-4可以打敗我們85%以上的人的表現(xiàn)。所以我覺(jué)得，更專業(yè)的、更具有創(chuàng)造性和情感的表現(xiàn)可能是人類智能的表現(xiàn)，而機(jī)器只能在總結(jié)、歸納、推理記憶規(guī)模方面有更新的展現(xiàn)力。
王喆：我覺(jué)得智能是一個(gè)系統(tǒng)，不一定是一個(gè)人，這個(gè)系統(tǒng)可以吸收信息、處理信息。我們遇到的問(wèn)題可以簡(jiǎn)單分兩類，一類是確定性問(wèn)題，一類是不確定性問(wèn)題。確定性的問(wèn)題大家是通過(guò)工程的方法、編程的方法解決。但像今天還有很多開(kāi)放性的、不確定性的問(wèn)題，大模型很擅長(zhǎng)解決不確定性的問(wèn)題，或者通過(guò)概率函數(shù)預(yù)測(cè)找到不確定性的邊界。我認(rèn)為智能是一個(gè)好的系統(tǒng)，能夠把兩種能力相結(jié)合。
張朋：簡(jiǎn)單來(lái)說(shuō)，我認(rèn)為無(wú)論人工智能達(dá)到何種程度，最終都應(yīng)該具備為人類提供服務(wù)的能力。從客戶的角度來(lái)看，無(wú)論實(shí)現(xiàn)方式、技術(shù)、模型組合是否開(kāi)源或閉源，客戶只關(guān)心是否能夠解決他們的問(wèn)題。商業(yè)角度下，我將智能分為內(nèi)外兩個(gè)層面。內(nèi)部層面指的是能否解決員工或下屬的問(wèn)題，以及是否能夠?yàn)楣緞?chuàng)造價(jià)值。外部層面指的是能否代表公司或銷售員或咨詢?nèi)藛T與客戶溝通，無(wú)論是通過(guò)語(yǔ)音還是個(gè)人形象。過(guò)去，數(shù)字化的軟件只能解決確定性問(wèn)題，只要輸入指令就能得到結(jié)果。大型模型則能夠解決模糊性問(wèn)題，將問(wèn)題按照邏輯分解成可能的問(wèn)題，做出選擇。智能從“你說(shuō)1它做1”推進(jìn)到“你說(shuō)1，它可以舉一反三”，越走越像真人，既能解決內(nèi)部問(wèn)題，又能觸達(dá)外部客戶。
王湘君：我認(rèn)為隨著人工智能的不斷發(fā)展，大家對(duì)智能的認(rèn)知和定義也在不斷進(jìn)化?；叵霂啄昵?，我們認(rèn)為如果AI下棋可以超過(guò)人類就是很智能的表現(xiàn)。但是現(xiàn)在，阿爾法狗已經(jīng)能夠碾壓人類，顯示出在游戲方面更高層次的智能水平。隨著AI攻克更多領(lǐng)域，人們開(kāi)始討論真正的人工智能應(yīng)該是什么。我們最開(kāi)始定義智能體是具有自主學(xué)習(xí)和自主決策能力，這是智能發(fā)展的方向。
GPT的不斷發(fā)展代表了通用人工智能的發(fā)展，類似于阿爾法狗。現(xiàn)在GPT已經(jīng)具備了一種通用認(rèn)知的能力，而OpenAI對(duì)智能和AGI的定義也在不斷改變。在GPT-3發(fā)布時(shí)，OpenAI定義AGI為能夠像人類一樣完成智能任務(wù)，普遍適用于各種任務(wù)。特別是在最近GPT-4發(fā)布后，有一個(gè)新的定義是AI是一個(gè)比人類更聰明的智能系統(tǒng)。這個(gè)定義非常有意義，因?yàn)樵谡務(wù)撝悄軙r(shí)，我們可以提出三個(gè)問(wèn)題：*，它是通用智能還是特定領(lǐng)域的智能？第二，它是普通的智能還是專家級(jí)的智能？很明顯，GPT-4已經(jīng)超越或達(dá)到了人類專家的水平。第三，它是智慧的智能還是全面的智能？從多個(gè)維度看，人工智能在感知、認(rèn)知、決策方面取得了重大進(jìn)展。要成為真正的智能，必須具備感知、認(rèn)知和決策專家的水平。這是我的看法。
2.當(dāng)硅基取代人類勞動(dòng)力，
未來(lái)人類的“自留地”是什么？
王博：無(wú)論通用人工智能是接近人還是超越人，都是在用人的智能來(lái)衡量通用人工智能，這讓我想到一句話——“人是萬(wàn)物的尺度”。接下來(lái)，我們一起談?wù)勅伺c機(jī)器，或者人與機(jī)器人。很多人都聽(tīng)說(shuō)過(guò)“機(jī)器人三大定律”，看過(guò)機(jī)器人主題的科幻電影，近期還有一種觀點(diǎn)是“人工智能會(huì)在一些領(lǐng)域取代人類”。那么，當(dāng)硅基智能取代一些人類勞動(dòng)力，我們是否還有必要在人與機(jī)器之間劃分明確的界限？未來(lái)人類的“自留地”又是什么呢？
劉泉：這個(gè)問(wèn)題變得更加深刻了。實(shí)際上，我不完全贊同“機(jī)器總會(huì)取代人類”的觀點(diǎn)，盡管我們有時(shí)會(huì)這樣解讀。因?yàn)榭萍歼M(jìn)步會(huì)創(chuàng)造新的工作崗位和機(jī)會(huì)，這是相互促進(jìn)、共同進(jìn)步的過(guò)程，而不是單方面的替代。關(guān)于人和機(jī)器的區(qū)別，實(shí)際上我們前幾年一直在探討這個(gè)概念。人工智能從感知到認(rèn)知再到?jīng)Q策，決策后還有下一步。我們?cè)J(rèn)為這個(gè)階段的特點(diǎn)是人可以創(chuàng)造大量?jī)?nèi)容，定義高質(zhì)量的問(wèn)題，而機(jī)器可以完全替代重復(fù)性流程。但自從ChatGPT發(fā)布以來(lái)，AIGC也在近年來(lái)蓬勃發(fā)展，人的創(chuàng)造能力也被替代，這讓人有些驚訝。
一方面，一些創(chuàng)作或創(chuàng)造是基于對(duì)世界更深層次的理解和洞察，以及對(duì)規(guī)律和邏輯的歸納，通過(guò)對(duì)歷史的樣本和數(shù)據(jù)進(jìn)行重新拼湊和組裝。在這些更高維度的創(chuàng)造能力上，我認(rèn)為人類仍然具有優(yōu)勢(shì)。另一方面，人類自身的情感和價(jià)值觀是一個(gè)重要的區(qū)別點(diǎn)，這些價(jià)值觀可能包括宗教或信仰等等，這帶來(lái)了更加復(fù)雜的判斷，無(wú)法很好地被浮像化和具像化。
薛貴榮：我覺(jué)得未來(lái)明確區(qū)分人類和機(jī)器或人工智能的區(qū)隔，還要花非常長(zhǎng)的時(shí)間，但是在接下來(lái)的5到10年里，我們或許思考更多的是“我們?cè)趺春虯I互動(dòng)”，以此來(lái)做協(xié)同模式，我覺(jué)得這是一個(gè)很大的創(chuàng)新。我們?cè)趺从脵C(jī)器做更重要的事或者更復(fù)雜的事，讓機(jī)器幫我們做我們不想做的事。就像現(xiàn)在人們戴眼鏡和使用手機(jī)一樣，和千里外的人通信就像在眼前，未來(lái)人工智能可以很好地幫助人類做很多的事?，F(xiàn)在我們主要談?wù)撊撕椭悄軈f(xié)同，十年之后再看是什么樣的跡象，是不是整體的人類認(rèn)知或者人類解決問(wèn)題的水平也提升了一定高度。那就是人智共存的時(shí)代。
王喆：我來(lái)提供一個(gè)新的視角。當(dāng)我們思考這些問(wèn)題的時(shí)候，我們可以把時(shí)間尺度放得比人類歷史更長(zhǎng)，從地球的角度看待這個(gè)問(wèn)題。地球上的生命從單細(xì)胞生物開(kāi)始演化，不斷向上發(fā)展?，F(xiàn)在，我們?nèi)祟惢蛟S正處在地球上的一個(gè)特殊時(shí)期——我們已經(jīng)發(fā)展出了智能，目前是主宰地球文明的生物種群，但也許在未來(lái)，還會(huì)有更先進(jìn)的文明出現(xiàn)，這也許是人類在演化過(guò)程中的一個(gè)中間階段。以單細(xì)胞生物時(shí)代為例，如果站在單細(xì)胞生物的角度看，也許會(huì)發(fā)現(xiàn)有一個(gè)更高級(jí)的文明正在慢慢地消滅他們。從這個(gè)角度來(lái)看待人類，我們或許只是地球上新一代非生物體系文明中的一個(gè)中間體。
至于機(jī)器和人類之間的關(guān)系，也許會(huì)在未來(lái)演化出一種協(xié)作或互斥的關(guān)系，這取決于文明和科技的發(fā)展。我們并不知道機(jī)器和人類是否會(huì)相互合作，還是會(huì)產(chǎn)生矛盾，就像大自然中生物之間存在互為食物、捕獵和共生的關(guān)系一樣。而人類學(xué)習(xí)知識(shí)的方式相對(duì)落后，我們必須從零開(kāi)始學(xué)習(xí)，并且使用比較古老的信息傳遞方式。例如一個(gè)老師在課堂上講，每個(gè)學(xué)生聽(tīng)到的不同，信息的損失是非常大的。同時(shí)，每個(gè)人類個(gè)體壽命有限，要學(xué)習(xí)前人的知識(shí)需要花費(fèi)很多時(shí)間。這是一個(gè)相對(duì)較慢的演化進(jìn)程。不過(guò)，從科技的角度來(lái)看，更先進(jìn)的文明可能會(huì)解決一些我們目前無(wú)法想象的新問(wèn)題，比如能源和量子力學(xué)等，從而對(duì)人類的進(jìn)步有所幫助。這是我提供的一種新的視角。
張朋：我非常認(rèn)同王總剛才說(shuō)的觀點(diǎn)，我們對(duì)知識(shí)進(jìn)行迭代的速度非常慢。雖然有可能通過(guò)某種新技術(shù)將上一代人的技術(shù)100%無(wú)損地傳遞給人腦，但這似乎有些超出科技范疇，比較不現(xiàn)實(shí)。然而，就目前而言，我認(rèn)為人類可以主導(dǎo)技術(shù)的發(fā)展。尤其是在現(xiàn)代社會(huì)充斥各種信息的情況下，人工智能的應(yīng)用可以幫助我們更快速地消化知識(shí)。
例如，在機(jī)器智能應(yīng)用于搜索引擎和發(fā)布人工智能大型模型方面，可以加速我們學(xué)習(xí)的速度。這種工具是全民普及的，任何人都可以使用，只是看誰(shuí)能更好地利用它。我們可以在大型模型的基礎(chǔ)上完成許多事情。當(dāng)然，這也會(huì)導(dǎo)致人與人之間的不同，有些人會(huì)從事高級(jí)工作，而有些人則從事低級(jí)工作。我們不確定是“人引領(lǐng)技術(shù)”還是“技術(shù)引領(lǐng)人”，但如果技術(shù)決定方向，那么人類的安全邊界在哪里？因此，從工具為人擴(kuò)展能力的角度來(lái)看，我認(rèn)為這個(gè)問(wèn)題應(yīng)該優(yōu)先解決。
王博：我想問(wèn)一下湘君總，您之前在游戲領(lǐng)域做過(guò)“星際AI”和“AI陪玩”，您對(duì)于“人與機(jī)器之間是否應(yīng)該劃分明確的界限”有什么看法？
王湘君：我從三個(gè)方面來(lái)談?wù)勥@個(gè)話題。
首先是關(guān)于是否需要?jiǎng)澐诌吔绲膯?wèn)題。我們?cè)谟螒駻I方面做了很多工作，例如實(shí)現(xiàn)可以像真人一樣對(duì)話的NPC這樣的場(chǎng)景。目前運(yùn)用的大型模型技術(shù)已經(jīng)能夠讓玩家難以分辨這些NPC是不是AI了。從用戶體驗(yàn)的角度來(lái)看，這是一種更好的體驗(yàn)，他們不再關(guān)心與誰(shuí)交互，是人還是AI。在這個(gè)角度上，我相信，除了游戲之外，很多人類社交本身的需求還是陪伴、情感交流。因此，AI可以用來(lái)滿足人們?cè)谶@方面的需求。特別是現(xiàn)在虛擬人對(duì)于AI的認(rèn)知和下一代人有不同的看法，越來(lái)越開(kāi)放、接受新技術(shù)和接受AI在新社會(huì)的定位。
第二個(gè)角度是，AI的能力越來(lái)越強(qiáng)，但仍然有一些事情它無(wú)法做好。AI的發(fā)展更多地集中在智商能力方面。但是，有兩個(gè)比較難回答的問(wèn)題：人的自我意識(shí)是什么？AI是否能通過(guò)學(xué)習(xí)的方式獲得自我認(rèn)識(shí)？這些問(wèn)題還不確定。
第三個(gè)角度是，現(xiàn)在有兩個(gè)觀點(diǎn)，一個(gè)是像馬斯克提出的新硅基智能，人類可能是硅基智能的引導(dǎo)程序，來(lái)引出更先進(jìn)的新一代智能。另一個(gè)觀點(diǎn)是，AI是我們創(chuàng)造的實(shí)體，就像NPC一樣，無(wú)法感知高維的存在。從技術(shù)的角度來(lái)看，我們可能更傾向于后者。
實(shí)際上，現(xiàn)在AI還有很多缺陷，最明顯的是OpenAI強(qiáng)迫讓ChatGPT的部分功能失效。ChatGPT只是一個(gè)工具人的定位，開(kāi)發(fā)者賦予了它應(yīng)該做什么、不應(yīng)該做什么、擅長(zhǎng)做什么，幫助AI確定了它的價(jià)值觀和道德準(zhǔn)則。目前，人類對(duì)AI還擁有引導(dǎo)和發(fā)展方向的主控權(quán)，這也是現(xiàn)在很多人關(guān)注的AI安全問(wèn)題所在。在發(fā)展AI的同時(shí)，我們需要掌握它的可控性，更好地創(chuàng)造一個(gè)人工智能和人類共生的世界。
3.科幻電影里的人工智能，
未來(lái)能成真嗎？
王博：今年年初，《流浪地球2》受到了廣泛關(guān)注，其中“圖丫丫”給人們帶來(lái)了關(guān)于“數(shù)字生命”的想象。當(dāng)我們走進(jìn)通用人工智能時(shí)代，我們對(duì)未來(lái)生命形態(tài)還可能有哪些想象？
劉泉：我認(rèn)為通過(guò)在數(shù)字世界當(dāng)中存儲(chǔ)一些人的思想和認(rèn)知等等，能夠進(jìn)一步和視頻做交互，有點(diǎn)像數(shù)字世界的永生。拉回到現(xiàn)在世界的尺度，我更加期待看到機(jī)器和人有更好的共生和相互促進(jìn)的關(guān)系，比如機(jī)器可以輔助人們更快速地學(xué)習(xí)和掌握知識(shí)，更高效地掌握工具，從重復(fù)性勞動(dòng)中釋放出來(lái)，在影響力的創(chuàng)作和探索產(chǎn)生更大的價(jià)值。人的生命在數(shù)字世界的永生可能是另外一個(gè)話題。
薛貴榮：今天我們談到的更多是關(guān)于數(shù)字人的，未來(lái)可能還會(huì)有一個(gè)實(shí)體的機(jī)器人在外面工作，一個(gè)數(shù)字人在虛擬世界，而我們?cè)诩依锩嫣善?。我們的思想和決策在真實(shí)世界和虛擬世界的互通，這非常有意思。比如《流浪地球2》里面的一個(gè)人物，我們現(xiàn)在看不到他本人，但可能看到一個(gè)機(jī)器人在外面代表他。我覺(jué)得這是一個(gè)比較有意思的世界。
王喆：我的想法是，我們現(xiàn)在發(fā)展的時(shí)候，發(fā)現(xiàn)生命體的意義是把基因還原成能力和學(xué)習(xí)。數(shù)字生命是一直延續(xù)永存的，過(guò)去的人通過(guò)留下作品從而被后人感知。只是現(xiàn)在的門檻稍微降低了，不需要一個(gè)特別偉大的作品來(lái)延續(xù)，可能是通過(guò)自己的想法，甚至可能在數(shù)字世界形成某種延續(xù)。當(dāng)然隨著發(fā)展，數(shù)字生命的意義也會(huì)和以前不一樣。以前生產(chǎn)力效率不高的時(shí)候，我們這代人努力拼搏，享受生活其實(shí)不多。生命的意義在享受生活，數(shù)字世界里可能主要是玩，不需要努力工作，大多數(shù)工作是被機(jī)器完成了。生命的定義會(huì)隨著科技的發(fā)展擁有新的理解。
張朋：真的挺科幻的。從意識(shí)上傳這一想法來(lái)說(shuō)，我想到了一本科幻小說(shuō)。在小說(shuō)中，當(dāng)人變老到八十多歲時(shí)，有一項(xiàng)新技術(shù)可以幫助他們換一個(gè)新的身體。思想和記憶仍然是原來(lái)的那個(gè)人的。 至于數(shù)字生命，我認(rèn)為在人類社會(huì)中，無(wú)論是數(shù)字人之間的互動(dòng)，還是數(shù)字人是你的親人、朋友、愛(ài)人等等，人類更需要和人類在一起感受彼此的情感。畢竟，我們是需要社交和群居的動(dòng)物。在人工智能時(shí)代，人工智能擁有自己的思想和觀點(diǎn)。到了那個(gè)時(shí)候，可能有很多社交障礙的人不需要跟真實(shí)的人產(chǎn)生交流和互動(dòng)。因此，我認(rèn)為數(shù)字生命是人類的一種補(bǔ)充。
王博：這讓我想起《三體》里面的云天明。我想請(qǐng)教一下湘君總，您對(duì)未來(lái)生命形態(tài)有哪些想象？
王湘君：好的。因?yàn)樽鲞^(guò)比較多的娛樂(lè)行業(yè)，我也有很多感受。特別是從游戲玩家的角度來(lái)講，很需要它。首先是因?yàn)橛螒虮旧砭褪亲非篌w驗(yàn)，各種游戲包括元宇宙都在打造一個(gè)不同的平行世界，或許可以穿越到三國(guó)時(shí)期、三國(guó)戰(zhàn)場(chǎng)等等，也能夠和未來(lái)世界進(jìn)行交互。我覺(jué)得其實(shí)這能夠超越現(xiàn)在社交的局限性，甚至包括時(shí)間限制和更多數(shù)字生命的交互。另外，我們?cè)谂惆榈姆较蛏舷胩岬降氖?，讓AI能夠像我們看到的科幻電影一樣，更好地陪伴人，能夠讓人在精神和情感世界有更好的寄托。第三點(diǎn)呢，看到數(shù)字生命的發(fā)展，也期待在實(shí)體世界里大佬的實(shí)體機(jī)器人帶來(lái)的更多的想象力。
王博：好的，謝謝線上的湘君總，謝謝在場(chǎng)的所有嘉賓，本場(chǎng)圓桌論壇到此結(jié)束。
【本文由投資界合作伙伴微信公眾號(hào)：甲子光年授權(quán)發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)?！咳缬腥魏我蓡?wèn)，請(qǐng)聯(lián)系（editor@zero2ipo.com.cn）投資界處理。
標(biāo)簽：
