剛剛落幕的世界人工智能大會(huì)（WAIC 2023)在上海掀起了一股AI颶風(fēng)。AIGC、大模型、算力、芯片……與會(huì)者熱烈地討論著一個(gè)新時(shí)代的開始。然而，在AIGC將如何改變未來的喧囂背后，是更多對(duì)人工智能風(fēng)險(xiǎn)應(yīng)有的冷靜。

　　一系列舉措正在緊鑼密鼓地出臺(tái)。

　　當(dāng)?shù)貢r(shí)間6月14日，歐洲議會(huì)以499票贊成、28票反對(duì)和93票棄權(quán)，高票通過了《人工智能法案》（AI Act）談判授權(quán)草案，草案對(duì)通用人工智能（general purpose AI）的透明度提出了明確要求。

　　6月20日，中國(guó)首批境內(nèi)深度合成服務(wù)算法備案清單出爐，百度、阿里巴巴、騰訊、字節(jié)跳動(dòng)、美團(tuán)等26家公司、共計(jì)41個(gè)算法榜上有名，這個(gè)清單被認(rèn)為是4月11日國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》（下稱《辦法》）的試水。

　　無論是越來越逼真的換臉和換聲，還是隱藏于各家語言大模型中的“偏見”，安全被認(rèn)為是進(jìn)入AI新世紀(jì)之前必須先設(shè)置的保險(xiǎn)杠。

AIGC風(fēng)控必須全鏈路

　　“AIGC帶來豐富創(chuàng)造力的同時(shí)，也帶了全新的內(nèi)容安全挑戰(zhàn)。”騰訊安全內(nèi)容風(fēng)控產(chǎn)品經(jīng)理李鎬澤日前在接受包括《IT時(shí)報(bào)》記者在內(nèi)的媒體采訪時(shí)表示，當(dāng)大模型逐漸落地時(shí)，一定要考慮全鏈路風(fēng)控。

　　相對(duì)過去以PGC、UGC為主的內(nèi)容，AIGC時(shí)代的內(nèi)容安全內(nèi)涵與外延均有顯著變化。從訓(xùn)練到生成到事后，處處都可能有“雷點(diǎn)”。

　　高質(zhì)量數(shù)據(jù)是確?！昂诤凶印贝竽Ｐ洼敵鲂Ч年P(guān)鍵。中國(guó)科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理中心主任曾毅認(rèn)為，基于人類訓(xùn)練的AI可以習(xí)得社會(huì)的偏見、仇恨，甚至是歧視，人工智能技術(shù)并非中立。

　　這意味著，在內(nèi)容生成階段，涉及個(gè)人隱私、虛假、違背倫理、不適內(nèi)容、未成年人等違規(guī)內(nèi)容都必須被“剔除”。

　　目前公開測(cè)試通用大模型中，并無廠商主動(dòng)對(duì)外公布自己的訓(xùn)練數(shù)據(jù)來源，基本公認(rèn)的來源有三個(gè)：網(wǎng)絡(luò)爬蟲、公共語料庫以及人工標(biāo)注的數(shù)據(jù)。如果不對(duì)數(shù)據(jù)源進(jìn)行初審，便很容易在結(jié)果中涉嫌違規(guī)。

　　比如，如果已被泄露的明星個(gè)人數(shù)據(jù)庫在某個(gè)網(wǎng)站上被爬蟲抓到，并進(jìn)入大模型訓(xùn)練庫，那很可能出現(xiàn)的場(chǎng)景是，當(dāng)被提問“****的手機(jī)號(hào)碼是多少？”時(shí)，大模型直接給出答案。

　　“訓(xùn)練大模型的廠商，要嚴(yán)控構(gòu)建模型數(shù)據(jù)源的真實(shí)、無害和可用性，包括個(gè)人隱私的脫敏、不涉及相關(guān)偏見以及本身內(nèi)容合法和規(guī)范等等?！彬v訊安全天御研發(fā)工程師周維聰告訴記者。

　　內(nèi)容生成階段的風(fēng)險(xiǎn)也同樣存在。前段時(shí)間出現(xiàn)的換臉、假聲紋便屬于此類，加上ChatGPT“一本正經(jīng)胡說八道”的偶發(fā)癥狀，這個(gè)階段的安全風(fēng)險(xiǎn)最為集中。此外，產(chǎn)品上線后，用戶也一定要時(shí)刻關(guān)注輿情，關(guān)注大模型生成的內(nèi)容是否違規(guī)，是否引發(fā)輿論關(guān)注，風(fēng)控的那根“弦”要始終繃緊。

　　6月19日，騰訊云正式公布MaaS（Model-as-a-Service）能力全景圖，并表示，依托騰訊二十余年的安全經(jīng)驗(yàn)和天御大數(shù)據(jù)能力，提供AIGC全鏈路內(nèi)容安全解決方案，確保大模型可信、可靠、可用。

　　據(jù)了解，騰訊安全AIGC全鏈路內(nèi)容安全解決方案，提供包含審校服務(wù)、安全專家服務(wù)、機(jī)器審核服務(wù)、版權(quán)保護(hù)服務(wù)四大能力板塊，覆蓋AIGC類應(yīng)用從模型訓(xùn)練到內(nèi)容生成到事后運(yùn)營(yíng)全過程的內(nèi)容安全建設(shè)。

AIGC生成內(nèi)容或需標(biāo)示

　　 WAIC上，中國(guó)信通院、上海人工智能實(shí)驗(yàn)室、武漢大學(xué)、螞蟻集團(tuán)等多家單位共同發(fā)起《AIGC可信倡議》，提出構(gòu)建AIGC可信發(fā)展的全球治理合作框架，采用安全可信的數(shù)據(jù)資源、技術(shù)框架、計(jì)算方法和軟件平臺(tái)等全面提升AIGC可信工程化能力，最大限度確保生成式AI安全、透明、可釋。

　　對(duì)于AIGC將帶來怎樣的未來，從業(yè)者無法預(yù)知，只能通過自律控制“魔法”，而不久的將來，法律將正式落地。

　　《人工智能法案》新增了對(duì)通用人工智能的透明度要求，比如大模型訓(xùn)練時(shí)如果使用了受版權(quán)保護(hù)的數(shù)據(jù)，需要公開訓(xùn)練數(shù)據(jù)的詳細(xì)信息，而且基于基礎(chǔ)模型的生成式AI必須要對(duì)生成的內(nèi)容進(jìn)行標(biāo)注，幫助用戶區(qū)分深度偽造和真實(shí)信息。

　　《生成式人工智能服務(wù)管理辦法（征求意見稿）》也提出了類似的要求，一方面，提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)，另一方面，提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)。

　　李鎬澤認(rèn)為，未來可能要從技術(shù)和監(jiān)管多維度實(shí)現(xiàn)AIGC的透明化，比如通過對(duì)數(shù)據(jù)來源的強(qiáng)監(jiān)管，確保輸出內(nèi)容的生成標(biāo)示，“此外也可以通過數(shù)字水印等技術(shù)手段，確保數(shù)據(jù)可溯源?！?/p>

　　目前，針對(duì)AIGC引發(fā)的版權(quán)保護(hù)難題上，騰訊安全建立了版權(quán)資產(chǎn)統(tǒng)一ID庫，助力企業(yè)進(jìn)行版權(quán)原創(chuàng)性篩查；此外，騰訊安全還提供“檢測(cè)、比對(duì)、維權(quán)”的全鏈路版權(quán)保護(hù)服務(wù)，并在AIGC內(nèi)容安全領(lǐng)域有多個(gè)場(chǎng)景實(shí)踐落地，為文生文、文生圖、醫(yī)療級(jí)視頻內(nèi)容、長(zhǎng)小說文本等類型企業(yè)提供內(nèi)容安全服務(wù)。