從 AI繪畫、音樂創(chuàng)作到虛擬人，到最近興起的 ChatGPT，隨著 AI生成內(nèi)容（AIGC）技術(shù)的快速發(fā)展，使內(nèi)容生產(chǎn)模式發(fā)生了重大變化。同時(shí)，如何在網(wǎng)絡(luò)內(nèi)容的“生長”中，尋找一種能夠辨別真?zhèn)?、辨別真?zhèn)蔚募夹g(shù)標(biāo)準(zhǔn)，將是關(guān)系到整個產(chǎn)業(yè)長期、健康發(fā)展的重要因素。

今天，AIGC-X在網(wǎng)絡(luò)上進(jìn)行了公開測試。據(jù)了解，該系統(tǒng)是由《人民日報(bào)社》牽頭，依托《人民網(wǎng)》建設(shè)的“傳播內(nèi)容感知”國家重點(diǎn)實(shí)驗(yàn)室、中國科技大學(xué)、合肥綜合科研中心人工智能研究院等單位共同研發(fā)的，是我國第一款基于 AI的內(nèi)容感知系統(tǒng)。您可以訪問http://ai.sklccc.com/AIGC-X/#/進(jìn)行測試。

該系統(tǒng)能夠迅速地識別出機(jī)器產(chǎn)生的文字和人為產(chǎn)生的文字，在中文文字的識別方面，其識別精度已經(jīng)達(dá)到了90%以上。

交流內(nèi)容感知國家重點(diǎn)實(shí)驗(yàn)室總研究員張勇東認(rèn)為，由于 AIGC具有對話咨詢、文字寫作、內(nèi)容修整等多種應(yīng)用場景，將會進(jìn)入一個全新的發(fā)展時(shí)期。伴隨而來的倫理規(guī)范、內(nèi)容侵權(quán)、信息造假等風(fēng)險(xiǎn)也不能被忽略，亟需研發(fā)有針對性的檢測產(chǎn)品，提高對內(nèi)容生產(chǎn)新范式的監(jiān)管治理技術(shù)能力。

他表示，AIGC-X可以利用算法融合和知識驅(qū)動的人工智能框架，利用深度建模來捕獲由 AI技術(shù)產(chǎn)生的虛假新聞、內(nèi)容抄襲、垃圾郵件等，它在內(nèi)容版權(quán)、網(wǎng)絡(luò)釣魚、虛假信息和學(xué)術(shù)造假等內(nèi)容安全、內(nèi)容風(fēng)控等領(lǐng)域有著廣泛的應(yīng)用前景。將來，AIGC-X將進(jìn)一步拓展，使其能夠應(yīng)用于由人工智能產(chǎn)生的文字、圖像甚至視頻等多個領(lǐng)域。

“AIGC亟需一個正確的導(dǎo)向和標(biāo)準(zhǔn)?！薄皞鞑?nèi)容認(rèn)知”國家重點(diǎn)實(shí)驗(yàn)室研究人員靳國慶也指出，要注意防止“AIGC”在“虛假信息”、“學(xué)術(shù)造假”、“網(wǎng)絡(luò)釣魚”等“灰色地帶”的誤用?！癆IGC-X將促進(jìn)人工智能風(fēng)險(xiǎn)管理和安全評估技術(shù)的發(fā)展，為構(gòu)建安全、可控制的 AIGC生態(tài)系統(tǒng)奠定基礎(chǔ)?！?/p>

據(jù)悉，在這次AIGC-X的發(fā)布前，中國傳媒大學(xué)的“內(nèi)容識別”國家重點(diǎn)實(shí)驗(yàn)室已經(jīng)研發(fā)出了“智曉助”、“白澤”兩套以人工智能為基礎(chǔ)的內(nèi)容風(fēng)險(xiǎn)控制體系，目前已經(jīng)有上百個組織在應(yīng)用。以內(nèi)容風(fēng)險(xiǎn)管理為主業(yè)的《人民網(wǎng)》資訊科技有限公司，以AIGC-X為基礎(chǔ)，以“人民審校”為平臺，推出了一款“捕獲 AIGC”軟件。

根據(jù)工業(yè)和信息化部發(fā)布的數(shù)據(jù)，現(xiàn)在，在中國，人工智能核心產(chǎn)業(yè)的規(guī)模已經(jīng)達(dá)到了4000億元，擁有了將近4000個左右的公司，它所帶動的相關(guān)產(chǎn)業(yè)的規(guī)模已經(jīng)達(dá)到了幾萬億元，而且還會繼續(xù)快速地增長。業(yè)界人士認(rèn)為， AIGC是一種新型的“數(shù)字經(jīng)濟(jì)”與“實(shí)體經(jīng)濟(jì)”相結(jié)合的商業(yè)模式，將極大地賦能企業(yè)的創(chuàng)新發(fā)展。

張勇東說：“AIGC-X并非一成不變的技術(shù)，它將伴隨著 AIGC的成長而成長。AIGC-X由于受到時(shí)間、資源等因素的限制，其對一些特殊問題及應(yīng)用的支持還不夠完善。比如，AIGC-X現(xiàn)在只能對中文的內(nèi)容進(jìn)行檢索，英文的檢索還需要進(jìn)一步完善；在此基礎(chǔ)上，還需提高對圖像、音頻、視頻等內(nèi)容的探測能力，以實(shí)現(xiàn)對全媒體的探測，保障 AIGC的健康發(fā)展。