奇安信集團董事長齊向東。本版攝影/新京報記者 羅亦丹

11月20日至22日，2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會在浙江烏鎮(zhèn)舉行，本屆大會重要的成果之一是成立了世界互聯(lián)網(wǎng)大會人工智能專業(yè)委員會。對此，新京報記者在烏鎮(zhèn)現(xiàn)場采訪了在本屆專委會中被選為主任委員的北京人工智能安全與治理實驗室主任、聯(lián)合國人工智能高層顧問機構(gòu)專家曾毅，參加此次會議的劍橋大學(xué)智能未來研究中心項目主任、中英人工智能倫理與治理中心聯(lián)合主任肖恩·歐·海格緹，以及國內(nèi)安全廠商龍頭奇安信集團的董事長齊向東。

關(guān)注1

專委會將圍繞標準化等開展工作

曾毅告訴記者，世界互聯(lián)網(wǎng)大會是一個國際組織，今年到了第十一個年頭，作為國際組織成立的第一個專業(yè)委員會就是關(guān)于人工智能的專業(yè)委員會，這是一個全新的嘗試。專委會將圍繞人工智能的標準化、人工智能的安全與治理以及人工智能的產(chǎn)業(yè)化三個重要議題開展工作。

“我擔任主任委員，一方面是要在這三個領(lǐng)域全方位與我的同事進行協(xié)作，推進來自中國的人工智能的國際化，如何跟全球的人工智能進行協(xié)作。另外一方面，我負責(zé)安全與治理的推進計劃，人工智能安全與治理現(xiàn)在是人工智能國際協(xié)作當中最重要的議題，要在全球范圍內(nèi)確保人工智能安全、可交互?！痹阏f。

在曾毅看來，人工智能的區(qū)域性治理、如何進行全球化等都是非常重要的挑戰(zhàn)，“世界互聯(lián)網(wǎng)大會是一個從中國發(fā)起的非常重要的國際組織，也是中國一個非常重要的對外協(xié)作平臺，所以我們也非常期待依托WIC（世界互聯(lián)網(wǎng)大會）這一國際組織，特別是人工智能專委會來開展相關(guān)的工作?！?/p>

本次專委會成立，有來自阿拉伯信息通信技術(shù)組織、IBM、超威半導(dǎo)體、之江實驗室等組織的24位人工智能相關(guān)負責(zé)人和專家擔任副主任委員，其中也包括奇安信。

對于人工智能專業(yè)委員會的成立，齊向東告訴記者，人工智能是未來發(fā)展不可或缺的新力量，誰能率先登上人工智能戰(zhàn)略高地，誰就掌握科技發(fā)展的主動權(quán)，“世界互聯(lián)網(wǎng)大會人工智能專委會的成立，不僅為人工智能領(lǐng)域的發(fā)展搭建了國際化的交流合作平臺，也為匯聚力量、營造中國人工智能產(chǎn)業(yè)發(fā)展創(chuàng)新生態(tài)提供了重要組織保障。”

“網(wǎng)絡(luò)安全是護航人工智能健康發(fā)展的‘底板’，也是人工智能技術(shù)能最快落地應(yīng)用并且最快見到實效的行業(yè)之一。這次專委會成立，奇安信也特別關(guān)注，并積極參與其中，希望未來在人工智能領(lǐng)域的標準推進、產(chǎn)業(yè)推進方面貢獻應(yīng)有力量。”齊向東說。

關(guān)注2

在風(fēng)險領(lǐng)域使用人工智能要非常謹慎

新京報記者注意到，許多國際人工智能專家都參與了人工智能專委會在烏鎮(zhèn)的成立會議。其中，劍橋大學(xué)智能未來研究中心項目主任、中英人工智能倫理與治理中心聯(lián)合主任肖恩·歐·海格緹就接受了世界互聯(lián)網(wǎng)大會人工智能工作組的邀請，與曾毅共同擔任安全與治理推進計劃的聯(lián)合負責(zé)人。

“AI在許多方向上都有益于人們的生活，它讓很多事情變得更有效率，但是風(fēng)險也發(fā)展得非常快，所以科技的迅速進化對政策制定者來說是一個非常大的挑戰(zhàn)，理解這一點非常重要?！毙ざ髟诮邮苄戮﹫笥浾卟稍L時表示。

在曾毅看來，人工智能安全是一個全球議題，“在這個領(lǐng)域大家的共同關(guān)注點非常一致，這個領(lǐng)域特別需要國際的共識。近期，人工智能的主要風(fēng)險是它現(xiàn)在仍然是一個看似智能的信息處理工具，它將以什么樣的方式去犯人不犯的錯誤，存在著非常大的不可預(yù)知性。如何將技術(shù)的努力和社會的努力融合，將不可預(yù)測的慢慢變得越來越可預(yù)測，減小這種工具可能帶給我們的風(fēng)險，是人工智能近期的風(fēng)險和安全挑戰(zhàn)?！?/p>

肖恩告訴新京報記者，“AI造福于人民，但也有可能使工作變得更糟。我們正在發(fā)展越來越強大的能力，總會有產(chǎn)生濫用它們的可能，所以我們要對這些系統(tǒng)進行非常徹底的測試并對其進行評估，因為即便是一件積極正面的東西，人們也總能找到使用它干壞事的方式，例如生成誤導(dǎo)信息等。”

在曾毅看來，現(xiàn)階段可以適度地使用人工智能，“在人工智能風(fēng)險比較少、安全隱患比較少的領(lǐng)域，我們可以去探索它的善用，但是對那些敏感的、可能給我們造成更多風(fēng)險的領(lǐng)域，我們在使用人工智能的時候要非常謹慎，更要前瞻研究，防患于未然?！?/p>

而從更加長遠的角度來看，曾毅認為，當人工智能的認知能力變得越來越通用，邁向通用智能甚至超級智能之時，我們的社會如何去做好一種準備來應(yīng)對長遠的人工智能風(fēng)險，要從現(xiàn)在開始做準備，也許高等的人工智能可能需要更長的時間到來，也許需要二三十年甚至更長的時間，但是去解決它的風(fēng)險，我們在二三十年內(nèi)是不是能夠完全做好準備，就取決于是不是從現(xiàn)在開始去做這樣的安全和治理的突破性研究，以及與產(chǎn)業(yè)協(xié)作的準備。