上證報中國證券網(wǎng)訊（竇世平 記者 李雁爭）在大模型時代，如何確保人工智能安全、可信可控？在中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（下稱“AIIA”）安全治理委員會近日召開的“守護AI安全，共話向善未來——AIIA安全治理委員會成果發(fā)布會上，來自產(chǎn)學研各界的近200名行業(yè)專家、高校學者以及企業(yè)代表共話AI安全。

人工智能安全本身就是人工智能能力的體現(xiàn)

近日，微軟藍屏宕機事件引發(fā)各界反思，一次互聯(lián)網(wǎng)時代的軟件瑕疵都會引發(fā)全球“癱瘓”，若劇情在AI時代重新上演，損失將不可估量。

中國信通院人工智能研究所所長魏凱在會上表示，世界各國都對人工智能的發(fā)展表示出非常大的期待，不論是發(fā)達國家或者發(fā)展中國家，普遍認為人工智能是一個巨大的機遇，同時也對人工智能的確定性安全和風險挑戰(zhàn)表示擔憂。

人工智能發(fā)展與安全的關(guān)系究竟應(yīng)該如何平衡？

中國科學院自動化研究所研究員、國家新一代人工智能治理專委會委員、聯(lián)合國人工智能高層顧問機構(gòu)專家曾毅認為，作為科技創(chuàng)新者，思考科技突破帶來的社會風險應(yīng)該是我們內(nèi)生基因的一部分，不存在人工智能能力與安全的平衡，人工智能安全本身就是人工智能能力的體現(xiàn)。

人工智能治理對跨界復(fù)合能力提出了更高的要求

人工智能天生具備高度交叉的技術(shù)和產(chǎn)業(yè)屬性，跨界融合正成為人工智能發(fā)展的主流形態(tài)。北京大學法學院教授、人工智能研究院AI安全與治理中心主任張平表示，人工智能歸根結(jié)底不只是一個技術(shù)問題，像北大人工智能研究院就聘用了文史哲政經(jīng)法所有學科的老師，而不僅僅是技術(shù)研發(fā)的老師，聚集了許多人文社科領(lǐng)域的老師一起去探討人工智能的問題。

“對于法學專家來講，首先要了解技術(shù)特征。如果不了解技術(shù)特征，你寫的規(guī)范和規(guī)制的思路是不適用這個技術(shù)的，換句話說是無效的，可能邏輯推演是嚴謹?shù)?，但現(xiàn)實中是沒法用的。所以對于法學專業(yè)來講，你要根據(jù)這種特征和特性來設(shè)計一套配置方案出來。這是最大的挑戰(zhàn)?！敝袊▽W會法治研究所研究員、中國法學會網(wǎng)絡(luò)與信息法學研究會副秘書長劉金瑞說道。