12月5日，2024第三屆北外灘網(wǎng)絡(luò)安全論壇在上?！笆澜鐣?huì)客廳”舉行。多位院士專家與會(huì)，共同探討網(wǎng)絡(luò)安全技術(shù)的最新進(jìn)展、分享標(biāo)桿案例與應(yīng)用經(jīng)驗(yàn)，探索多層次、多維度合作機(jī)制，推動(dòng)構(gòu)建更加安全、可靠的網(wǎng)絡(luò)空間。

論壇上，中國工程院院士、中國信息安全測評(píng)中心專家委員會(huì)副主任黃殿中發(fā)表了題為《智能時(shí)代網(wǎng)絡(luò)空間認(rèn)知安全新觀察》的主旨演講。

黃殿中院士發(fā)表主旨演講。澎湃新聞?dòng)浾?徐亦嘉 圖

黃殿中從人工智能革命掀起認(rèn)知安全新浪潮、人工智能技術(shù)塑造認(rèn)知安全新范式、人工智能治理構(gòu)建認(rèn)知安全新秩序等三個(gè)方面，探討了人工智能在網(wǎng)絡(luò)安全中的應(yīng)用以及改變國際認(rèn)知格局等議題。

在黃殿中看來，人工智能技術(shù)的發(fā)展和應(yīng)用已成為認(rèn)知安全格局中的關(guān)鍵因素，將給全球權(quán)力結(jié)構(gòu)和國際關(guān)系帶來深刻變革。尤其是近兩年來，以生成式智能為代表的人工智能技術(shù)與應(yīng)用發(fā)展，被視為推動(dòng)新一輪科技革命發(fā)展的風(fēng)向標(biāo)。而在國家戰(zhàn)略層面，人工智能已成為大國競爭的關(guān)鍵賽道。

人工智能作為引領(lǐng)未來的戰(zhàn)略性基礎(chǔ)，新一代人工智能、特別是生成式人工智能導(dǎo)致認(rèn)知安全態(tài)勢呈現(xiàn)巨大變化，使得人工智能治理的重要性和緊迫性日益凸顯。此外，深度偽造、社交媒體機(jī)器人、精準(zhǔn)算法推薦等技術(shù)助推了認(rèn)知域安全性的復(fù)雜化。如何在保持技術(shù)創(chuàng)新活力的同時(shí)，有效地防范認(rèn)識(shí)安全風(fēng)險(xiǎn)，已成為全球人工智能企業(yè)的重要議題。

對(duì)此，黃殿中分享了4個(gè)應(yīng)對(duì)的策略：一是以創(chuàng)新應(yīng)對(duì)，加快認(rèn)知安全防護(hù)技術(shù)的突破。未來，中國需從理論角度，分析以人工智能技術(shù)來應(yīng)對(duì)智能化認(rèn)知安全挑戰(zhàn)，加快認(rèn)知安全防護(hù)技術(shù)的突破；二是以法治應(yīng)對(duì)，完善認(rèn)知安全法律制度。打造具有中國特色的治理模式，有效地實(shí)現(xiàn)認(rèn)知威脅的防范，確保技術(shù)發(fā)展遵循人類共同的價(jià)值觀；三是以協(xié)同應(yīng)對(duì)，構(gòu)建認(rèn)知安全協(xié)作機(jī)制。要積極推動(dòng)多部門協(xié)作，通過政策協(xié)調(diào)、資源整合和跨地域的合作，推動(dòng)技術(shù)創(chuàng)新和行業(yè)應(yīng)用的加速落地，打造具有國際競爭力的人工智能產(chǎn)業(yè)集群；四是以良知應(yīng)對(duì)，共建認(rèn)知安全的數(shù)字未來。要堅(jiān)持以人為本，智能向善，從社會(huì)治理角度完善認(rèn)知安全的治理。