每個(gè)人都有過(guò)這樣的經(jīng)歷：打開(kāi)手機(jī)準(zhǔn)備回消息或打電話(huà)，一看到微信圖標(biāo)右上方的小紅點(diǎn)，于是忍不住先打開(kāi)微信;看完微信，不知不覺(jué)又被另一個(gè)App牽引，直到關(guān)閉手機(jī)屏幕才發(fā)現(xiàn)自己早已忘了打開(kāi)手機(jī)的初衷。
你以為這是健忘?非也!智能手機(jī)每一個(gè)App背后的算法，不僅有人工智能領(lǐng)域?qū)＜也俚?，還有心理學(xué)以及腦科學(xué)家的“精心設(shè)計(jì)”，讓你不知不覺(jué)“深陷其中”。
超級(jí)人工智能和人類(lèi)的博弈，是科幻作品中的永恒主題。而如今，這種博弈或許已嵌入人們的日常生活之中。
時(shí)下，越來(lái)越多的學(xué)者開(kāi)始熱議一個(gè)話(huà)題：當(dāng)算法與心理學(xué)、腦科學(xué)等對(duì)關(guān)乎人類(lèi)本身認(rèn)知的科學(xué)結(jié)合得越來(lái)越緊密時(shí)，算法是否會(huì)主宰我們的生活?人類(lèi)是否會(huì)淪為算法的“奴仆”?
雖然不同學(xué)科背景的專(zhuān)家對(duì)此看法不一，但大家達(dá)成一點(diǎn)共識(shí)：學(xué)會(huì)與機(jī)器正確相處，對(duì)生活在智能時(shí)代的每一個(gè)人而言，都是一種生存技能，其重要性不言而喻。
人的注意力，正在成為被“精心設(shè)計(jì)”的對(duì)象
日前，一部關(guān)于社交媒體成癮的紀(jì)錄片《社交困境》引發(fā)不小關(guān)注。紀(jì)錄片中的主角，正是那些曾經(jīng)在硅谷等知名互聯(lián)網(wǎng)公司的從業(yè)人員。他們坦言，當(dāng)開(kāi)始意識(shí)到隨著算法的升級(jí)，尤其是當(dāng)算法和心理學(xué)、腦科學(xué)相互融合，并逐漸占據(jù)人類(lèi)越來(lái)越多的注意力時(shí)，他們自己也覺(jué)得似乎無(wú)法逃脫算法的“控制”。
事實(shí)上，打開(kāi)手機(jī)、點(diǎn)開(kāi)某個(gè)App或劃動(dòng)拇指，對(duì)很多人來(lái)說(shuō)不僅是習(xí)慣，也已成為一種肌肉記憶，甚至是一種本能。而這背后，是不是也有一只“看不見(jiàn)的手”在操控呢?
“人工智能的發(fā)展，使得機(jī)器帶來(lái)的成癮行為越來(lái)越普遍。”上海交通大學(xué)心理與行為科學(xué)研究院執(zhí)行院長(zhǎng)李衛(wèi)東介紹，和藥物成癮會(huì)給大腦細(xì)胞層面帶來(lái)不可逆變化有所不同，電子產(chǎn)品或社交軟件成癮對(duì)大腦機(jī)制的影響方式，目前尚未非常明確。但可以確認(rèn)的一點(diǎn)是，隨著算法和人工智能的發(fā)展，這類(lèi)“成癮”的可能性更大、影響也更廣。
要知道，在互聯(lián)網(wǎng)時(shí)代來(lái)臨之前，人類(lèi)的一切發(fā)明都是基于人類(lèi)的主動(dòng)使用，使某項(xiàng)新發(fā)明能為人類(lèi)服務(wù)。但如今，技術(shù)正無(wú)時(shí)無(wú)刻不在想方設(shè)法吸引人的注意力，甚至希望能“操控”人的想法并從而獲利。《社交困境》中提到，“一切產(chǎn)品都以營(yíng)利為目的，但是當(dāng)這些產(chǎn)品都免費(fèi)時(shí)，那么你就是產(chǎn)品。”
對(duì)互聯(lián)網(wǎng)公司而言，人的注意力正在成為被“精心設(shè)計(jì)”的對(duì)象——用戶(hù)的增長(zhǎng)、用戶(hù)使用的時(shí)間延長(zhǎng)，甚至對(duì)用戶(hù)想法的操控，都能換來(lái)更多的利潤(rùn)。用戶(hù)就是能夠“自主長(zhǎng)大”的產(chǎn)品。
確實(shí)，很多人已經(jīng)發(fā)現(xiàn)，信息推送不僅越來(lái)越精準(zhǔn)，且很多推送是基于個(gè)人喜好，由算法算出來(lái)的。有時(shí)候，這些推送并不是以事實(shí)為依據(jù)，其中夾雜著偏激甚至錯(cuò)誤的觀點(diǎn)，只為迎合用戶(hù)。隨著個(gè)人偏好在這些推送中被不斷加強(qiáng)，每一個(gè)人基于這些推送信息而“看”到的世界也由此顯得不同。
在算法“包圍”中，人將變得越來(lái)越焦慮、脆弱?
當(dāng)算法對(duì)人類(lèi)的愛(ài)好和行為預(yù)測(cè)越來(lái)越準(zhǔn)確時(shí)，越來(lái)越多的成年人或未成年人在這樣融合心理學(xué)和腦科學(xué)的算法“包圍”中，也許會(huì)變得越來(lái)越焦慮、脆弱。學(xué)會(huì)和機(jī)器相處，應(yīng)該是每一個(gè)人面對(duì)未來(lái)所必須儲(chǔ)備的能力。
在同濟(jì)大學(xué)任教的劉翠蓮有多年從事心理咨詢(xún)服務(wù)的經(jīng)驗(yàn)。據(jù)她觀察，這一代00后、10后，都是在現(xiàn)實(shí)世界和虛擬世界同時(shí)存在的平行世界中成長(zhǎng)起來(lái)，他們已習(xí)慣網(wǎng)絡(luò)上的日常社交，包括點(diǎn)贊、評(píng)論等。但事實(shí)上，無(wú)論是點(diǎn)贊還是評(píng)論，這些社交界面的功能開(kāi)發(fā)，也都是根據(jù)心理學(xué)原理精心設(shè)計(jì)的。對(duì)未成年人來(lái)說(shuō)，短期反饋容易讓人獲得短暫的滿(mǎn)足感，且會(huì)讓他們不斷地追求這樣的滿(mǎn)足。但這種“誘導(dǎo)”機(jī)制，或許也會(huì)成為他們心理壓力的來(lái)源。
“人和任何技術(shù)或機(jī)器之間都存在互動(dòng)，可能是人控制機(jī)器，也可能是人被機(jī)器控制。”上海紐約大學(xué)教授張崢始終認(rèn)為，技術(shù)是中性的，就像使用搜索引擎時(shí)，每當(dāng)你搜索一個(gè)詞，推送給你的第一個(gè)頁(yè)面的前10個(gè)結(jié)果一定是根據(jù)你的習(xí)慣和偏好精心裁剪過(guò)的，目的就是讓你喜歡這個(gè)搜索結(jié)果，從而持續(xù)地用這個(gè)搜索引擎。“往好處說(shuō)，這種設(shè)計(jì)是為了提升用戶(hù)粘性;往壞處說(shuō)，也可以理解為通過(guò)強(qiáng)化你的偏好，更容易‘操控’你。”
更多科學(xué)研究，應(yīng)關(guān)注人與機(jī)器的交互
和人工智能技術(shù)發(fā)展速度相比，人工智能倫理研究則顯得落后。不少學(xué)者在接受記者采訪時(shí)都談到，當(dāng)下的人工智能發(fā)展使得人與機(jī)器的關(guān)系越來(lái)越復(fù)雜，人工智能的安全性、可靠性、可信度以及在如何符合人類(lèi)價(jià)值觀等方面，都生發(fā)出很多值得探索的全新科學(xué)問(wèn)題。
就在不久前，浙江大學(xué)心理科學(xué)研究中心和心理學(xué)系的三位學(xué)者聯(lián)合發(fā)表文章，提出必須將“人-AI交互”作為新的研究領(lǐng)域，并勾畫(huà)了具體的研究框架，倡導(dǎo)學(xué)科交叉合作，目標(biāo)是確保人工智能造福人類(lèi)。
幾位學(xué)者不約而同地談到，不恰當(dāng)?shù)娜斯ぶ悄芗夹g(shù)開(kāi)發(fā)已導(dǎo)致了不少傷害人類(lèi)的事故。僅僅在學(xué)術(shù)界認(rèn)可的“AI事故數(shù)據(jù)庫(kù)”里就已記錄了1000多起事故，如自動(dòng)駕駛汽車(chē)撞死行人、交易算法錯(cuò)誤導(dǎo)致市場(chǎng)“閃崩”等?？紤]人工智能的價(jià)值觀等問(wèn)題，并不是為時(shí)過(guò)早，其必要性和緊迫性日益凸顯。
有學(xué)者呼吁，心理學(xué)本身是關(guān)注人的學(xué)科，而從學(xué)科發(fā)展來(lái)看，未來(lái)的心理學(xué)不僅要更加關(guān)注人本身，還應(yīng)關(guān)注人如何與機(jī)器打交道。作為心理學(xué)的分支，在中國(guó)目前已有工程心理學(xué)，這個(gè)學(xué)科的核心科學(xué)問(wèn)題，就是研究在開(kāi)發(fā)復(fù)雜系統(tǒng)中，如何保證技術(shù)與人的心理、生理規(guī)律相匹配，以便于人的理解和操作，使得整個(gè)人—機(jī)系統(tǒng)的效能達(dá)到最佳狀態(tài)。
復(fù)旦大學(xué)計(jì)算機(jī)教授張軍平也認(rèn)為，技術(shù)本身有其發(fā)展邏輯，但是當(dāng)技術(shù)與心理學(xué)、腦科學(xué)的融合越來(lái)越密切時(shí)，確實(shí)應(yīng)該加強(qiáng)對(duì)人與技術(shù)的交互關(guān)系研究，并且更客觀、更審慎地對(duì)待技術(shù)。
