央視網(wǎng)消息：作為網(wǎng)絡(luò)安全宣傳周重要組成部分，2023年網(wǎng)絡(luò)安全博覽會(huì)眼下正在福州舉辦，記者注意到，人工智能產(chǎn)業(yè)如何更好發(fā)展引發(fā)與會(huì)人員的關(guān)注。不少專家認(rèn)為生成式人工智能雖然能夠極大地方便和改善人類的生活方式，但也對網(wǎng)絡(luò)安全構(gòu)成了新的挑戰(zhàn)，需要從各方面強(qiáng)化監(jiān)管。

專家指出，任何技術(shù)都是有兩面性的，生成式人工智能背后隱藏著一系列安全風(fēng)險(xiǎn)，對國家安全、社會(huì)安全、網(wǎng)絡(luò)安全及數(shù)據(jù)安全均提出了新的挑戰(zhàn)。

在安全方面，專家指出，排除人為干預(yù)，人工智能自身的安全問題也是顯而易見的。

中國計(jì)算機(jī)學(xué)會(huì)（CCF）計(jì)算機(jī)安全專業(yè)委員會(huì)委員 程度：第一，在源頭上，數(shù)據(jù)有可能被投毒，會(huì)被污染，這樣原始訓(xùn)練的數(shù)據(jù)可能會(huì)有問題。第二，在訓(xùn)練的時(shí)候，有可能有大數(shù)據(jù)歧視算法在里面，有可能它不是一個(gè)公正的算法，會(huì)導(dǎo)致結(jié)果有問題。第三，在最后的輸出階段會(huì)有一個(gè)反饋的機(jī)制，反饋的機(jī)制有可能會(huì)注入一些惡意的數(shù)據(jù)或者樣本，也會(huì)導(dǎo)致這個(gè)模型得出的答案有偏差。

那么，如何應(yīng)對人工智能存在的隱患？專家表示，這需要從監(jiān)管和從業(yè)人員以及企業(yè)層面共同努力來應(yīng)對。

廣東省數(shù)字政府網(wǎng)絡(luò)和數(shù)據(jù)安全應(yīng)急響應(yīng)專家組專家 李新亮：針對AI可能帶來的安全風(fēng)險(xiǎn)，我個(gè)人覺得，從國家層面要加快相關(guān)的立法，同時(shí)要盡快制定相關(guān)的行業(yè)標(biāo)準(zhǔn)。另外，對AI的從業(yè)人員來說 ，一定要加強(qiáng)相應(yīng)的培訓(xùn)，讓他們在使用AI技術(shù)的時(shí)候能夠在國家法律法規(guī)的層面開展。從企業(yè)層面而言，在采集公民信息的合規(guī)性方面一定要充分考慮清楚，同時(shí)采集的這些數(shù)據(jù)在傳輸存儲(chǔ)方面一定要加強(qiáng)數(shù)據(jù)保護(hù)方面的相關(guān)動(dòng)作。