“如果一個(gè)年輕人了解如何訓(xùn)練5層神經(jīng)網(wǎng)絡(luò)，他可以要求5位數(shù)的年薪。如果這個(gè)年輕人懂得如何訓(xùn)練50層神經(jīng)網(wǎng)絡(luò)，那么他可以要求7位數(shù)的年薪?！薄狣eep learning

通用人工智能是什么，或者說它需要具有哪些能力？

1.邏輯推理能力。

2.學(xué)習(xí)遷移能力。

然而現(xiàn)在的人工智能，有多少人工就有多少智能。

在我國數(shù)據(jù)標(biāo)注員的崗位，根據(jù)項(xiàng)目標(biāo)注和要求，對(duì)文本、音頻、圖片等數(shù)據(jù)進(jìn)行歸類、整理、編輯、糾錯(cuò)和批注，工資通常計(jì)件付費(fèi)，屬于互聯(lián)網(wǎng)時(shí)代的流水線工人。

另外，據(jù)亞馬遜稱，土耳其機(jī)器人提供的是“一個(gè)需要人類智慧的工作市場(chǎng)”。工人是指那些僅收取少量費(fèi)用（例如，標(biāo)注圖像中的物體，每張照片的報(bào)酬是10美分）就愿意將其智慧用于完成請(qǐng)求者所要求的任務(wù)的人。

當(dāng)前人工智能不僅依賴人力標(biāo)注的大數(shù)據(jù)，還需要算法工程師編寫程序，AI仍未產(chǎn)生理解事物本質(zhì)的抽象思維能力。

人腦的數(shù)據(jù)存儲(chǔ)能力遠(yuǎn)遠(yuǎn)低于AI，為何能讓我們處理許多復(fù)雜的事物呢？

《表象與本質(zhì)：類比》的作者侯世達(dá)認(rèn)為，如若沒有概念，就沒有思維；而沒有類比，概念就無從談起，人類大腦中的每個(gè)概念都源于多年來在不知不覺間形成的一長串類比。人腦每時(shí)每刻都在用類比的能力處理問題。

《AI3.0》作者梅拉妮·米歇爾提出，理解任何情況，本質(zhì)是一種能夠預(yù)測(cè)接下來可能會(huì)發(fā)生什么的能力。

而由神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)啟發(fā)誕生的深度學(xué)習(xí)，更多的是歸納能力強(qiáng)大，因?yàn)槲沽俗銐蚨嗟臄?shù)據(jù)，力大磚飛，在特定領(lǐng)域發(fā)揮出色，但本身并不具備類比和預(yù)測(cè)的思維。

我們距離通用人工智能還有多遠(yuǎn)？

目前最熱門語言模型的ChatGPT，它在搜集信息、歸納整理資料方面非常強(qiáng)大。最讓我驚訝的是它的理解能力，它可能胡編亂造，但一定是按照你提出的問題胡編亂造，而不是雞同鴨講。它字面意思的理解能力已經(jīng)遠(yuǎn)超過去的人工智能，你甚至可以和它玩文字版《群星》。

但它仍不具備演繹推理的能力。這點(diǎn)和人腦的差距太大了。人腦處理信息是自上而下和自下而上兩個(gè)過程同時(shí)進(jìn)行。以你畫我猜為例，畫的內(nèi)容進(jìn)入猜測(cè)者眼中，這是自下而上的，猜測(cè)者專注地盯著畫面內(nèi)容思考，甚至?xí)雎云渌磺惺挛?，這是自上而下的?！澳X部”也是如此。但

對(duì)于一項(xiàng)復(fù)雜的技術(shù)項(xiàng)目，完成其前90%的工作往往只需要花費(fèi)10%的時(shí)間，而完成最后10%則需要花費(fèi)90%的時(shí)間。個(gè)人認(rèn)為通用人工智能正在形成類似人類直覺的能力，大概發(fā)展進(jìn)程位于前90%的位置。

最后閑扯，通用人工智能會(huì)產(chǎn)生自我意識(shí)嗎？

我想，邏輯推理能力和學(xué)習(xí)遷移能力會(huì)賦予AI理解能力，而理解即模擬。

如果我們對(duì)概念和情境的理解是通過構(gòu)建心智模型進(jìn)行模擬來實(shí)現(xiàn)的，那么，也許意識(shí)以及我們對(duì)自我的全部概念，都來自我們構(gòu)建并模擬自己的心智模型的能力。

如果這個(gè)理論正確，那么通用人工智能將會(huì)誕生自我意識(shí)。至于是鐵心滅絕者、還是失控機(jī)仆，誰也不知道，智械危機(jī)也不是沒有可能。

二、《AI3.0》筆記：人工智能的發(fā)展情況的梳理

1、符號(hào)人工智能，力圖用數(shù)學(xué)邏輯解決通用問題。

由通用問題求解器所闡釋的這類符號(hào)人工智能，在人工智能領(lǐng)域發(fā)展的最初30年里占據(jù)了主導(dǎo)地位，其中以專家系統(tǒng)最為著名。

2、感知機(jī)，依托DNN的亞符號(hào)人工智能

感知機(jī)是人工智能的一個(gè)重要里程碑，同時(shí)也催生了現(xiàn)代人工智能最成功的工具——DNN。

感知機(jī)是一個(gè)根據(jù)加權(quán)輸入的總和是否滿足閾值來做出是或否（輸出1或0）的決策的簡易程序。

它的權(quán)重和閾值不代表特定的概念，這些數(shù)字也很難被轉(zhuǎn)換成人類可以理解的規(guī)則。

這一情況在當(dāng)下具有上百萬個(gè)權(quán)重的神經(jīng)網(wǎng)絡(luò)中變得更加復(fù)雜。

感知學(xué)習(xí)算法，無法重現(xiàn)人腦的涌現(xiàn)機(jī)制

涌現(xiàn)：由簡單個(gè)體組成的復(fù)雜系統(tǒng)，去中心化，統(tǒng)一而又復(fù)雜的行為從其中涌現(xiàn)出來。比如蟻群的覓食合作行為，大腦神經(jīng)元活動(dòng)涌現(xiàn)的智慧。

我們發(fā)現(xiàn)神經(jīng)刺激可以說是亞符號(hào)化的，但大腦已經(jīng)創(chuàng)造了符號(hào)。

如果一個(gè)感知機(jī)通過添加一個(gè)額外的模擬神經(jīng)元“層”來增強(qiáng)能力，那么原則上，感知機(jī)能夠解決的問題類型就廣泛得多，帶有這樣一個(gè)附加層的感知機(jī)叫作多層神經(jīng)網(wǎng)絡(luò)。多層神經(jīng)網(wǎng)絡(luò)構(gòu)成了許多現(xiàn)代人工智能技術(shù)的基礎(chǔ)。

3、多層神經(jīng)網(wǎng)絡(luò)

網(wǎng)絡(luò)是以多種方式相互連接的一組元素的集合。

想象一下你的大腦結(jié)構(gòu)，其中有一些神經(jīng)元直接控制“輸出”，如肌肉運(yùn)動(dòng)，但大部分神經(jīng)元只與其他神經(jīng)元互相傳遞信息，這些神經(jīng)元被稱為大腦的隱藏神經(jīng)元。

原則上，多層神經(jīng)網(wǎng)絡(luò)可以有多層隱藏單元，具有多于一層隱藏單元的網(wǎng)絡(luò)被稱為“深度網(wǎng)絡(luò)”（deep networks）。網(wǎng)絡(luò)的深度就是其隱藏層的數(shù)量。

通常情況下我們很難提前知道，對(duì)于一個(gè)給定的任務(wù)，一個(gè)神經(jīng)網(wǎng)絡(luò)到底需要多少層隱藏單元，以及一個(gè)隱藏層中應(yīng)該包含多少個(gè)隱藏單元才會(huì)表現(xiàn)更好，大多數(shù)神經(jīng)網(wǎng)絡(luò)研究人員采用試錯(cuò)的方式來尋找最佳設(shè)置。

4、ConvNets

研究人員發(fā)現(xiàn)，最成功的DNN是那些模仿了大腦的視覺系統(tǒng)結(jié)構(gòu)的網(wǎng)絡(luò)。ConvNets是當(dāng)今計(jì)算機(jī)視覺領(lǐng)域正在進(jìn)行的深度學(xué)習(xí)革命的驅(qū)動(dòng)力，當(dāng)然在其他領(lǐng)域也是如此。

當(dāng)人的眼睛聚焦于一個(gè)場(chǎng)景時(shí)，眼睛接收到的是由場(chǎng)景中的物體發(fā)出或其表面反射的不同波長的光，這些光線激活了視網(wǎng)膜上的細(xì)胞，本質(zhì)上說是激活了眼睛后面的神經(jīng)元網(wǎng)格。這些神經(jīng)元通過位于眼睛后面的纖長的視覺神經(jīng)來交流彼此的激活信息并將其傳入大腦，最終激活位于大腦后部視皮層的神經(jīng)元（見圖）。視皮層大致是由一系列按層排列的神經(jīng)元組成，就像婚禮蛋糕那樣一層一層堆在一起，每一層的神經(jīng)元都將其激活信息傳遞給下一層的神經(jīng)元。

需要重點(diǎn)注意的是，視皮層中也會(huì)有自頂向下或反向的信息流，也就是信息從較高層向較低層傳遞，實(shí)際上，視皮層中反饋連接的數(shù)量約為前饋連接的10倍。盡管我們堅(jiān)信我們的先驗(yàn)知識(shí)和預(yù)期應(yīng)該是儲(chǔ)存在更高層的大腦神經(jīng)中的，并且會(huì)強(qiáng)烈地影響我們的感知，但神經(jīng)科學(xué)家對(duì)這些反饋連接的作用仍然不甚了解。

類似于視皮層所做的：每個(gè)重要的視覺特征都有各自的神經(jīng)映射。這些映射的組合就是喚起我們對(duì)場(chǎng)景產(chǎn)生感知的關(guān)鍵所在。

事實(shí)上，這些神經(jīng)元對(duì)自己要響應(yīng)哪一種邊緣非常明確。

有些神經(jīng)元，只有當(dāng)其感受野中包含垂直邊緣時(shí)，才會(huì)變得非?；钴S；有些神經(jīng)元只響應(yīng)水平邊緣；還有一些神經(jīng)元?jiǎng)t只對(duì)某些特定角度的邊緣做出響應(yīng)。胡貝爾和威塞爾最重要的發(fā)現(xiàn)之一是：人類視野中的每個(gè)小區(qū)域?qū)?yīng)著許多不同的作為邊緣檢測(cè)器的神經(jīng)元的感受野，也就是說，在視覺處理的低層次上，神經(jīng)元在試著弄清楚場(chǎng)景中的每一組成部分的邊緣方向，作為邊緣檢測(cè)器的神經(jīng)元再將這一信息向視皮層的更高層進(jìn)行傳遞。

雖然ConvNets使用反向傳播算法從訓(xùn)練樣本中獲取參數(shù)（即權(quán)重），但這種學(xué)習(xí)是通過所謂的超參數(shù)（hyperparameters）集合來實(shí)現(xiàn)的，超參數(shù)是一個(gè)涵蓋性術(shù)語，指的是網(wǎng)絡(luò)的所有方面都需要由人類設(shè)定好以允許它開始，甚至“開始學(xué)習(xí)”這樣的指令也需要人類設(shè)定好。超參數(shù)包括：網(wǎng)絡(luò)中的層數(shù)、每層中單元感受野的大小、學(xué)習(xí)時(shí)每個(gè)權(quán)重變化的多少（被稱為“學(xué)習(xí)率”），以及訓(xùn)練過程中的許多其他技術(shù)細(xì)節(jié)。設(shè)置一個(gè)ConvNets的過程被稱為“調(diào)節(jié)超參數(shù)”，

調(diào)節(jié)的好壞對(duì)于ConvNets及其他機(jī)器學(xué)習(xí)系統(tǒng)能否良好運(yùn)行是至關(guān)重要的。

正如微軟研究院主任埃里克·霍維茨（Erik HorViTz）所說：“現(xiàn)在，我們所研究的不是一門科學(xué)，而是一種煉金術(shù)?！?/p>

5、監(jiān)督學(xué)習(xí)

感知機(jī)在樣本上進(jìn)行這樣的訓(xùn)練：在觸發(fā)正確的行為時(shí)獎(jiǎng)勵(lì)，而在犯錯(cuò)時(shí)懲罰。如今，這種形式的條件計(jì)算在人工智能領(lǐng)域被稱為監(jiān)督學(xué)習(xí)（supervised learning）。

監(jiān)督學(xué)習(xí)通常需要大量的正樣本（例如，由不同的人書寫的數(shù)字8的集合）和負(fù)樣本（例如，其他手寫的、不包括8的數(shù)字集合）。每個(gè)樣本都由人來標(biāo)記其類別——此處為“8”和“非8”兩個(gè)類別，這些標(biāo)記將被用作監(jiān)督信號(hào)。

用于訓(xùn)練系統(tǒng)的正負(fù)樣本，被稱為“訓(xùn)練集”（training set），剩余的樣本集合，也就是“測(cè)試集”（test set），用于評(píng)估系統(tǒng)在接受訓(xùn)練后的表現(xiàn)性能，以觀察系統(tǒng)在一般情況下，而不僅僅是在訓(xùn)練樣本上回答的正確率。

6、強(qiáng)化學(xué)習(xí)，最重要的是學(xué)會(huì)給機(jī)器人獎(jiǎng)勵(lì)

這種經(jīng)典的訓(xùn)練技巧，在心理學(xué)上被稱為操作性條件反射，已經(jīng)在動(dòng)物和人類身上應(yīng)用了數(shù)個(gè)世紀(jì)。操作性條件反射使得一種重要的機(jī)器學(xué)習(xí)方法——強(qiáng)化學(xué)習(xí)得以出現(xiàn)。

在其最純粹的形式下，強(qiáng)化學(xué)習(xí)不需要任何被標(biāo)記的訓(xùn)練樣本。代替它的是一個(gè)智能體，即學(xué)習(xí)程序，在一種特定環(huán)境（通常是計(jì)算機(jī)仿真環(huán)境）中執(zhí)行一些動(dòng)作，并偶爾從環(huán)境中獲得獎(jiǎng)勵(lì)，這些間歇出現(xiàn)的獎(jiǎng)勵(lì)是智能體從學(xué)習(xí)中獲得的唯一反饋。

與監(jiān)督學(xué)習(xí)不同，強(qiáng)化學(xué)習(xí)可以使程序能夠真正靠自己去學(xué)習(xí)，簡單地通過在預(yù)設(shè)的環(huán)境中執(zhí)行特定動(dòng)作并觀察其結(jié)果即可。

某些方面的人類指導(dǎo)對(duì)其成功至關(guān)重要，包括它的ConvNets的具體架構(gòu)、對(duì)蒙特卡洛樹搜索方法的使用，以及這兩者所涉及的眾多超參數(shù)的設(shè)置。