在剛剛舉辦的北京智源大會上，匯聚了眾多傳說中的AI大佬，以張鈸、張宏江為代表的國內AI最前沿領軍人物，Geoffery Hinton、Yann LeCun、姚期智、Joseph Sifakis這四位圖靈獎得主，Open AI創(chuàng)始人Sam Altman、PaLM-E和RoBERTa等AI公司高管。

因每次的智源大會秉承著專業(yè)的學術思想路線，因此在國內外人工領域內行精英圈層口碑極高，但對大眾來說，卻稍顯高冷。而在本次大會上，Sam Altman指出為搞清楚通用AI技術的發(fā)展，Open AI必須要推進AI研究變革。

但這一說法卻遭到了不少AI大佬們的反對。其中，加州伯克利分校教授斯圖爾特·羅素抨擊Open AI研發(fā)的Chat GPT和GPT-4沒有在“回答”問題，它們不理解世界，也不是一個通用AI的發(fā)展步驟。楊立昆更是直接指出，當前的GPT自回歸模型存在缺乏規(guī)劃、推理的能力，未來GPT系統(tǒng)或將被拋棄。

除激烈的學術爭論外，關于當前AI如何監(jiān)管、后續(xù)AI的發(fā)展方向也成了本次會議討論的焦點。

后續(xù)AI到底要如何監(jiān)管？

進入到2023年以來，在生成式AI以勢如破竹的速度席卷諸多領域的同時，由AI所引發(fā)的各種問題也在加劇外界的擔憂。

在我國，“AI詐騙”成為近期社會關注的方向之一。日前，內蒙古包頭警方通報一起利用AI實施詐騙的案件，福州市某公司法人代表郭先生10分鐘內被騙430萬元。據(jù)通報，騙子通過AI換臉和擬聲技術，佯裝熟人實施詐騙。無獨有偶，江蘇常州的小劉被騙子冒充其同學發(fā)語音、打視頻電話，小劉看到“真人”后信以為真，“借”了6000元給騙子。

圖源：抖音

事實上，AI詐騙案發(fā)生的背后還是和當前AI技術迅速發(fā)展，技術合成門檻持續(xù)降低有關。而從后續(xù)來看，若AI大模型技術不斷突破，未來也將逐漸從面部合成轉向到全身合成、3D合成技術，其合成效果也將更加逼真。

在美國，AI是否會影響選舉成為當?shù)孛襟w討論的重點。據(jù)美聯(lián)社報道，如今復雜的生成性AI工具能在幾秒鐘內“克隆”某人的聲音和形象，制造出大量“假料”。只要綁定強大的社交媒體算法，AI就可以迅速鎖定受眾進行傳播，以前所未見的規(guī)模和速度破壞選舉。

美國其他媒體則預測，因美國下一任總統(tǒng)選舉是在明年舉行，不排除美國兩黨將使用AI技術用于宣傳、籌款等活動。更重要的是，因Chat GPT在文本能力上有著卓越的表現(xiàn)。因此，參選者的團隊僅需在幾秒鐘就能生成一份措辭華麗的演講稿。

基于外界對AI的種種擔憂，日前，由“AI教父”杰弗里?辛頓、Anthropic的首席執(zhí)行官達里奧?阿莫代，Google Deep Mind首席執(zhí)行官戴米斯?哈薩比斯等超過350位AI領域高管和專家共同簽署了“減輕AI帶來的滅絕風險，應該與流行病和核戰(zhàn)爭等其他社會規(guī)模的風險一起，成為全球優(yōu)先事項”的聯(lián)合聲明。

針對后續(xù)AI如何監(jiān)管的問題，Sam Altman在智源大會上指出，目前Open AI正在通過多種方式來解決這一問題。首先，早在5月26日，Open AI啟動了一項激勵計劃，出資100萬美元，向社會征集有效的AI治理方案。

其次，Sam Altman認為人類是無法發(fā)現(xiàn)一些惡意模型在一些邪惡的事情。目前Open AI正在投資一些新的、互補的方向，希望能夠實現(xiàn)突破。但可擴展的監(jiān)督是嘗試使用AI 系統(tǒng)來協(xié)助人類發(fā)現(xiàn)其他系統(tǒng)缺陷，而解釋能力是用GPT-4解釋GPT-2神經元，雖然還有很長的路要走，但Open AI相信機器學習技術可進一步提高AI可解釋能力。同時，Sam Altman也認為未來只有把模型做得更智能，更加有幫助，才能更好地實現(xiàn)通用AI的目標優(yōu)勢，進而降低AI風險。

最后，Open AI短期內雖不會推出GPT-5版本，但未來十年全球可能會擁有更強大的AI系統(tǒng)，全球范圍內需做好提前準備。而Open AI后續(xù)對AI大模型的核心工作仍是訓練，并且準備在全球建立一套數(shù)據(jù)庫，以反映全球AI的價值觀和偏好，即時向全球分享AI安全研究。

除Open AI自身努力外，Sam Altman也呼吁全球共同努力來完善對于AI的監(jiān)管。比如說，Sam Altman指出當前中國擁有一些世界上最優(yōu)秀的AI人才，考慮到解決 AI 系統(tǒng)對齊的困難需要來自世界各地最好的頭腦。

因此，Sam Altman也希望未來中國AI研究人員能夠在AI風險上做出貢獻。Tegmark也認為，目前中國在人工智能的監(jiān)管方面做得最多，其次則為歐洲，最后則是美國。

圖源：智源大會

另外，Sam Altman也指出，全球AI監(jiān)管的合作困難是有的，但這也實則是一種機遇。AI在讓全世界走到一起的同時，后續(xù)也需要出臺系統(tǒng)性的框架和安全標準。

但考慮當前全球大國和大國之間的博弈加劇，地緣沖突呈現(xiàn)多點式爆發(fā)，各國政府對生成式AI的態(tài)度不一，這在讓全球關于AI監(jiān)管的合作短時間難以落地的同時，也會影響到生成式AI公司的市場業(yè)務。

歐洲一直走在AI監(jiān)管的前沿，5月份歐盟已經接近通過一項人工智能技術監(jiān)管的立法，這也有望成為全球首部全面的人工智能法案，并可能成為發(fā)達經濟體的先例。

歐盟委員會主席烏爾蘇拉·馮德萊恩此前在接受媒體采訪說曾表示，“我們希望人工智能系統(tǒng)準確、可靠、安全且無歧視，無論其來源如何。歐盟相關法律法規(guī)的出臺，可能會讓Open AI后續(xù)退出歐盟市場。因此，后續(xù)如何根據(jù)全球監(jiān)管政策的調整，不斷完善自家的生成式AI模型，這不僅僅是Open AI自身遇到的問題，更是全行業(yè)需不斷關注的問題。