70年前，在美國麻省理工學(xué)院，有一場(chǎng)著名的對(duì)話昭示了我們當(dāng)下的困境。當(dāng)時(shí)人工智能研究的先驅(qū)馬文·明斯克宣稱：“我們要給機(jī)器賦予智慧，讓它們有自我意識(shí)?！卑l(fā)明文字處理、鼠標(biāo)的道格拉斯·恩格爾巴特回應(yīng)道：“你要給機(jī)器做那么多好事？那你打算給人類做點(diǎn)什么呢？”

到今天，這似乎已經(jīng)成了籠罩在所有人類頭頂?shù)摹盀踉啤保簭摹督K結(jié)者》到《黑客帝國》，再到《我，機(jī)器人》和《西部世界》，無數(shù)科幻電影中都描述了一個(gè)令人無比擔(dān)憂的未來——獲得了自我意識(shí)的機(jī)器，將反過來接管人類乃至消滅人類。近年來，人工智能（AI）的高歌猛進(jìn)，更讓不少人憂心日盛，人類會(huì)被人工智能奴役嗎？

并不只是“又一個(gè)工具”

尤瓦爾·赫拉利的新著《智人之上》對(duì)此相當(dāng)警惕，并堅(jiān)信這是很有可能的：人類創(chuàng)造了自己根本不知道如何駕馭的力量，這些新事物一旦逃脫人類的掌控，將反過來奴役或消滅人類。在他看來，計(jì)算機(jī)網(wǎng)絡(luò)所催生的非人類智慧，帶來了歷史上第一個(gè)能夠自行做決策、創(chuàng)造新想法的技術(shù)，這可能對(duì)當(dāng)下人類社會(huì)的秩序和制度都產(chǎn)生顛覆性的影響。

顛覆性影響？那當(dāng)然肯定是有的。桑斯坦在《網(wǎng)絡(luò)共和國》一書中早就警告過，網(wǎng)絡(luò)并不只是一種技術(shù)，它的特性會(huì)造成“協(xié)同過濾”和“群體極化”，讓越來越多的人只聽到自己的回音，久而久之會(huì)使社會(huì)運(yùn)行陷入危機(jī)。我們?cè)诋?dāng)下看到的“信息繭房”已經(jīng)證實(shí)了這一點(diǎn)，我們都知道這很糟，但問題是這究竟有多糟？

在赫拉利看來，人工智能的挑戰(zhàn)遠(yuǎn)不止這些，因?yàn)槟遣⒉恢皇恰坝忠粋€(gè)工具”，而很有可能掌握人類交流的信息網(wǎng)絡(luò)。過去的新工具無論多么強(qiáng)大，使用的決定權(quán)都握在人類手中，人工智能卻首次改變了這一點(diǎn)。這恰恰是人類文明致命的弱點(diǎn)：“雖然人類能建立大規(guī)模合作網(wǎng)絡(luò)，以此獲取巨大的力量，但這些網(wǎng)絡(luò)的建構(gòu)方式注定了人類對(duì)這些力量的運(yùn)用常常并不明智?！逼浣Y(jié)果，一旦我們無法明智地掌控這樣的網(wǎng)絡(luò)，那就有可能會(huì)自取滅亡。

人類文明之所以能出現(xiàn)，依靠的就是合作，而合作必須依賴于信息交流，否則任何大型社會(huì)都不可能出現(xiàn)。從這一角度來說，歷史上的所有組織形態(tài)，大都依賴于一套成員共同信守的話語。這是一種“主體間現(xiàn)實(shí)”：只要成員都信其為“真”，那對(duì)他們來說就是真的，而合作和信任也都是在這一默認(rèn)共識(shí)的基礎(chǔ)上展開的。

現(xiàn)在問題就在這里：人工智能不但為信息的中央化管理提供了技術(shù)支撐，而且它還能自行創(chuàng)造新的想法，通過自主學(xué)習(xí)，算法能夠?qū)W會(huì)沒有寫進(jìn)程序里的東西，也能夠自己決定人類高管并未預(yù)見的事情。我們與計(jì)算機(jī)交談得越多，透露的信息也越多，最終機(jī)器人程序就能不斷“投喂”觀點(diǎn)，動(dòng)搖我們的看法，操縱人類社會(huì)，“計(jì)算機(jī)并不需要派出殺手機(jī)器人來射殺人類，只要操縱人類扣動(dòng)扳機(jī)就行”。

要想避免這樣可怕的一幕，最關(guān)鍵之處，就是要具備強(qiáng)大的自我修正機(jī)制，不斷發(fā)現(xiàn)問題解決問題。然而，就像計(jì)算機(jī)程序中常見的那樣，修訂bug常常又會(huì)帶來新的bug：“自我修正機(jī)制雖然有利于追求真理，卻會(huì)讓維持秩序的成本大大升高。自我修正機(jī)制太過強(qiáng)大，往往會(huì)產(chǎn)生懷疑、分歧、沖突與裂痕?！比斯ぶ悄芑蛟S沒有改變社會(huì)演化的模式，卻可能使這種演化朝向危險(xiǎn)的方向直奔而去。

這乍看談的是人工智能和信息網(wǎng)絡(luò)，實(shí)際上憂慮的是現(xiàn)行的社會(huì)制度能否、又如何應(yīng)對(duì)這樣的沖擊。赫拉利凸顯了這種危機(jī)的緊迫性，卻可能夸大了危險(xiǎn)程度。他很擔(dān)心“硅幕”會(huì)分裂人類的計(jì)算機(jī)網(wǎng)絡(luò)，塑造出一個(gè)個(gè)難以互聯(lián)溝通的信息繭房，但反過來說，在一個(gè)多元世界里，相信“世界是平的”不也是一種天真的信念嗎？信息繭房固然帶來封閉，但那也為多元文化提供了棲身之所，否則我們就可能見證大量小眾文化的消失。盡管那種信息的集中乍看似乎獲得了技術(shù)的加持，但假以時(shí)日來看，這種自我封閉真的能有更強(qiáng)大的內(nèi)生動(dòng)力，最終抵擋得過一個(gè)生機(jī)勃勃的開放網(wǎng)絡(luò)嗎？

人工智能會(huì)失控嗎？

不可否認(rèn)，他的警示確有必要，尤其是技術(shù)往往走在社會(huì)意識(shí)前面，太多人都無法意識(shí)到人工智能究竟意味著什么。30年前，美國國會(huì)議員愛德華·馬基就說過這么一句話：“來自華盛頓的好消息就是國會(huì)里每一個(gè)人都支持信息高速公路的提法，壞消息則是沒有人知道它意味著什么。”這像是在嘲諷政客們的愚蠢，但事實(shí)上，任何新生事物都有這樣的特性，印刷術(shù)誕生之初，人們根本想不到其會(huì)催生無數(shù)書籍、檔案，還發(fā)明了紙幣；又有幾個(gè)人能想到，社交軟件的聊天工具演變至今，竟然具備了那么多功能，搞得我們生活都離不開它們了。

也就是說，新生事物所帶來的影響，是逐步浮現(xiàn)的，沒有人能一開始就猜到它最終產(chǎn)生什么樣復(fù)雜深遠(yuǎn)的社會(huì)后果。有一點(diǎn)赫拉利說得對(duì)：關(guān)鍵在于社會(huì)的自我修正機(jī)制，而不是出現(xiàn)一點(diǎn)問題就反應(yīng)過度，恨不得把這危險(xiǎn)的新發(fā)明扼殺在搖籃里，免得它造成更大的禍患；但他看來非常擔(dān)憂人工智能的自行演化脫離了人類的掌控，我們本來想得到A，結(jié)果得到了B——然而，“非意圖后果”為什么不可能是好的呢？

擔(dān)心人類的創(chuàng)造物最終反噬，這在西方文化里有著悠久的傳統(tǒng)，源于主客體二元對(duì)立的邏輯，現(xiàn)代科幻小說的開山之作所描繪的“弗蘭肯斯坦怪物”就是這樣一個(gè)故事。這種憂慮固然有其必要，然而這種“受控的演化”，是否也意味著人類的智能上限會(huì)設(shè)定技術(shù)進(jìn)步的天花板？

凱文·凱利在《失控：全人類的最終命運(yùn)和結(jié)局》也預(yù)見了人類可能會(huì)失去對(duì)機(jī)器的控制：“在將生命的力量釋放到我們所創(chuàng)造的機(jī)器中的同時(shí)，我們就喪失了對(duì)它們的控制。它們獲得了野性，并因野性而獲得一些意外和驚喜。之后，就是所有造物主都必須面對(duì)的兩難窘境：它們將不再完全擁有自己最得意的創(chuàng)造物?！比欢⒉徽J(rèn)為那樣的未來值得恐懼，相反，他相信有必要放棄某些控制，讓機(jī)器自行模擬“自然進(jìn)化”：“進(jìn)化能使我們超越自身的規(guī)劃能力；進(jìn)化能雕琢出我們做不出來的東西；進(jìn)化能達(dá)到更完美的境界；進(jìn)化能看護(hù)我們無法看護(hù)的世界。但是……進(jìn)化的代價(jià)就是——失控?！?/p>

學(xué)會(huì)彼此共生共存

沒錯(cuò)，人工智能可能會(huì)對(duì)現(xiàn)行社會(huì)制度產(chǎn)生深遠(yuǎn)沖擊，但那與其說需要針對(duì)技術(shù)，不如說需要針對(duì)社會(huì)本身，因?yàn)橛?jì)算機(jī)網(wǎng)絡(luò)所呈現(xiàn)的特性，往往并不取決于技術(shù)，而取決于社會(huì)網(wǎng)絡(luò)自身的特點(diǎn)。直白地說，什么樣的社會(huì)，就會(huì)催生什么樣的信息網(wǎng)絡(luò)和人工智能應(yīng)用，我們不如坦率點(diǎn)，別怪罪到技術(shù)頭上。

這不是說我們就完全不需要擔(dān)憂人工智能失控，而是說至少現(xiàn)階段，它的應(yīng)用和發(fā)展仍取決于社會(huì)自身。這就像我們體內(nèi)的細(xì)胞分裂，能使生物體成長、適應(yīng)、恢復(fù)和修復(fù)，從而讓我們能夠生存。但一旦這種機(jī)制被癌細(xì)胞所劫持，出現(xiàn)細(xì)胞的異常增長，那對(duì)人體而言就是致命的。我們既不必“談癌色變”，當(dāng)然也不能高枕無憂，而是要找到和細(xì)胞的相處之道，既消除突變細(xì)胞，又不損害正常生長。

既然我們不可能摧毀人工智能，也不想被它所消滅，那么，與其把這看作是一場(chǎng)爭(zhēng)奪控制權(quán)的斗爭(zhēng)，倒不如多多去學(xué)習(xí)生物學(xué)的邏輯，學(xué)會(huì)彼此共生共存。