上證報(bào)中國證券網(wǎng)訊（竇世平 記者 李雁爭）在大模型時(shí)代，如何確保人工智能安全、可信可控？在中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（下稱“AIIA”）安全治理委員會(huì)近日召開的“守護(hù)AI安全，共話向善未來——AIIA安全治理委員會(huì)成果發(fā)布會(huì)上，來自產(chǎn)學(xué)研各界的近200名行業(yè)專家、高校學(xué)者以及企業(yè)代表共話AI安全。

人工智能安全本身就是人工智能能力的體現(xiàn)

近日，微軟藍(lán)屏宕機(jī)事件引發(fā)各界反思，一次互聯(lián)網(wǎng)時(shí)代的軟件瑕疵都會(huì)引發(fā)全球“癱瘓”，若劇情在AI時(shí)代重新上演，損失將不可估量。

中國信通院人工智能研究所所長魏凱在會(huì)上表示，世界各國都對(duì)人工智能的發(fā)展表示出非常大的期待，不論是發(fā)達(dá)國家或者發(fā)展中國家，普遍認(rèn)為人工智能是一個(gè)巨大的機(jī)遇，同時(shí)也對(duì)人工智能的確定性安全和風(fēng)險(xiǎn)挑戰(zhàn)表示擔(dān)憂。

人工智能發(fā)展與安全的關(guān)系究竟應(yīng)該如何平衡？

中國科學(xué)院自動(dòng)化研究所研究員、國家新一代人工智能治理專委會(huì)委員、聯(lián)合國人工智能高層顧問機(jī)構(gòu)專家曾毅認(rèn)為，作為科技創(chuàng)新者，思考科技突破帶來的社會(huì)風(fēng)險(xiǎn)應(yīng)該是我們內(nèi)生基因的一部分，不存在人工智能能力與安全的平衡，人工智能安全本身就是人工智能能力的體現(xiàn)。

人工智能治理對(duì)跨界復(fù)合能力提出了更高的要求

人工智能天生具備高度交叉的技術(shù)和產(chǎn)業(yè)屬性，跨界融合正成為人工智能發(fā)展的主流形態(tài)。北京大學(xué)法學(xué)院教授、人工智能研究院AI安全與治理中心主任張平表示，人工智能歸根結(jié)底不只是一個(gè)技術(shù)問題，像北大人工智能研究院就聘用了文史哲政經(jīng)法所有學(xué)科的老師，而不僅僅是技術(shù)研發(fā)的老師，聚集了許多人文社科領(lǐng)域的老師一起去探討人工智能的問題。

“對(duì)于法學(xué)專家來講，首先要了解技術(shù)特征。如果不了解技術(shù)特征，你寫的規(guī)范和規(guī)制的思路是不適用這個(gè)技術(shù)的，換句話說是無效的，可能邏輯推演是嚴(yán)謹(jǐn)?shù)?，但現(xiàn)實(shí)中是沒法用的。所以對(duì)于法學(xué)專業(yè)來講，你要根據(jù)這種特征和特性來設(shè)計(jì)一套配置方案出來。這是最大的挑戰(zhàn)?！敝袊▽W(xué)會(huì)法治研究所研究員、中國法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)副秘書長劉金瑞說道。