近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》（以下簡稱“《標識辦法》”），自2025年9月1日起施行。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人表示，《標識辦法》旨在促進人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標識，保護公民、法人和其他組織合法權(quán)益，維護社會公共利益。

　　《標識辦法》明確，人工智能生成合成內(nèi)容標識主要包括顯式標識和隱式標識兩種形式，顯式標識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標識；隱式標識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標識。

　　自人工智能技術(shù)加速發(fā)展以來，關(guān)于AI治理的議題就反復被行業(yè)人士討論。其中，關(guān)于AI生成內(nèi)容的風險尤其被外界和產(chǎn)業(yè)重視，包括虛假信息、信息繭房、數(shù)據(jù)安全和隱私保護等等——這些問題往往和AI用戶直接息息相關(guān)。

　　去年9月，國家互聯(lián)網(wǎng)信息辦公室起草了《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》，向社會公開征求意見。如今《標識辦法》正式發(fā)布，對于內(nèi)容提供方、內(nèi)容平臺和個人用戶來說都有不小的影響。

　　中國科學院科技戰(zhàn)略咨詢研究院研究員肖尤丹認為，《標識辦法》的發(fā)布實際上并不是AI內(nèi)容治理的終極手段，而是過程中一次“小步快走”的治理實踐，是更符合當下中國人工智能發(fā)展階段的治理方法。

　　平衡“安全”與“發(fā)展”的關(guān)鍵一招

　　2022年12月，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。這被外界視為人工智能治理的一次重要節(jié)點。

　　對于標識制度，肖尤丹認為，這是國家對生成式人工智能內(nèi)容側(cè)治理的新一步，但并不是一個孤立的辦法，應當把它放到生成式人工智能內(nèi)容治理的總體框架里，與算法備案管理、生成式人工智能服務(wù)管理、深度合成管理相互協(xié)調(diào)、共同發(fā)揮作用的角度去理解。

　　在此基礎(chǔ)上分析《標識辦法》的實施，對于行業(yè)來說可能更有參考價值。

　　從具體的操作來看，《標識辦法》提出，服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，應當按照下列要求對生成合成內(nèi)容添加顯式標識：包括在文本的起始、末尾、中間適當位置添加文字提示或通用符號提示等標識，或在交互場景界面或文字周邊添加顯著的提示標識；在音頻的起始、末尾或中間適當位置添加語音提示或音頻節(jié)奏提示等標識，或在交互場景界面中添加顯著的提示標識等等。

　　也就是說，《標識辦法》解決的是關(guān)鍵性的“有或無”的問題，而不是治理的終極手段。

　　正因為此，肖尤丹認為，《標識辦法》是目前我國人工智能生成內(nèi)容治理和秩序管理發(fā)展過程中的關(guān)鍵一招，也和目前AIGC技術(shù)發(fā)展和社會化應用階段相匹配。

　　“這是一種敏捷治理、小步快走的邏輯，而不是一招制敵、一勞永逸的邏輯?！毙び鹊ふf。原因在于，當下人工智能的技術(shù)安全手段、外部監(jiān)管以及技術(shù)發(fā)展之間存在巨大落差，強制標識制度可能是現(xiàn)階段社會共識最高、技術(shù)和治理成本最可行的方案，能在安全治理和產(chǎn)業(yè)發(fā)展之間形成較好的平衡，為當前快速增長的AIGC產(chǎn)業(yè)提供足夠的合規(guī)發(fā)展空間。

　　從整個內(nèi)容行業(yè)的角度而言，《標識辦法》的推出也有利于市場的公平競爭和有效管理。肖尤丹總結(jié)稱，“標識”至少實現(xiàn)了了四個“區(qū)分開”：首先是區(qū)分AIGC和其他內(nèi)容，這有利于保護傳統(tǒng)內(nèi)容產(chǎn)業(yè)，降低一定程度的技術(shù)直接沖擊；第二是區(qū)分場景合規(guī)，即深度合成場景的合規(guī)要求高于其他生產(chǎn)場景；第三和第四則是區(qū)分AIGC的不同來源和AIGC生成、使用和傳播主體的不同責任，例如內(nèi)容來自于DeepSeek或是Kimi。

　　那么，既然《標識辦法》對服務(wù)提供者提出了諸多要求，具體實現(xiàn)的難度如何？

　　相比技術(shù)上的難度，AI公司可能更需要適應新規(guī)范下的運營流程。肖尤丹分析稱，社會對該辦法出臺的預期比較穩(wěn)定，辦法也預留了半年左右的準備時間，因此，對大多數(shù)AIGC服務(wù)提供者來說，履行辦法中的“標識義務(wù)”并沒有太大的技術(shù)難度和合規(guī)成本。尤其是現(xiàn)在國內(nèi)主流的AI服務(wù)提供商，實際上已經(jīng)在采取類似的標識方式。不過，對于那些提供接口服務(wù)或間接向公眾提供AI服務(wù)的公司來說，或許會需要一個技術(shù)調(diào)整與合規(guī)的過程。

　　提高違規(guī)和責任成本

　　值得一提的的是，就標識義務(wù)來看，《標識辦法》主要約束的是人工智能生成服務(wù)提供者，涉及用戶的只有兩條。因而從個人用戶的角度來看，《標識辦法》的實施實際上不會產(chǎn)生太多內(nèi)容消費體驗或使用合規(guī)上的影響。

　　肖尤丹稱，這是因為，現(xiàn)階段標識規(guī)則首先需要解決的是關(guān)鍵主體、關(guān)鍵場景、關(guān)鍵活動和關(guān)鍵風險筑牢底線的問題。例如，對于部分使用人工智能生成內(nèi)容輔助創(chuàng)作的個人，因為其不是人工智能生成服務(wù)提供者，按照《標識辦法》，就并不存在進行標識的義務(wù)，但是有保留AIGC上已有標識的責任，不得惡意刪除、篡改、偽造、隱匿標識。同時，《標識辦法》也專門為用戶提供了向生成服務(wù)者申請?zhí)峁]有添加顯式標識AIGC的合規(guī)機制。

　　可以肯定的是，對于那些批量化搬運AI生成內(nèi)容、進行病毒式傳播的“營銷號”們而言，未來將面臨更高的合規(guī)難度。

　　這也是《標識辦法》對于內(nèi)容行業(yè)發(fā)展的最大意義之一：通過標識解決一些特定場景的“透明義務(wù)”問題，提高違規(guī)和責任成本。

　　肖尤丹舉例稱，在沒有標識的情況下，可能會存在一種情況——將公司“A”的人工智能生產(chǎn)內(nèi)容套用到“B”的結(jié)果上，對用戶形成誤導，甚至用不合規(guī)的內(nèi)容進行“栽贓”。同樣，《標識辦法》提出，提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者應當采取措施，規(guī)范生成合成內(nèi)容傳播活動，包括應當核驗文件元數(shù)據(jù)中是否含有隱式標識、采取適當方式在發(fā)布內(nèi)容周邊添加顯著的提示標識等等。

　　在這樣的要求下，標識的存在也會對大規(guī)模搬運人工智能直接生成內(nèi)容的行為進行攔截，讓內(nèi)容平臺有了更明確的合規(guī)要求和管理程序，有利于降低總體的審核運營成本。

　　當下，我國的人工智能立法已經(jīng)有了不少探索和成果，目前已經(jīng)發(fā)布的包括《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等等。但至今仍未形成專門的法律法規(guī)。

　　肖尤丹認為，《標識辦法》為優(yōu)化AIGC內(nèi)容秩序、防范技術(shù)大規(guī)模應用等下提供了基礎(chǔ)性規(guī)范工具，構(gòu)建了以生成源頭強制標識為基礎(chǔ)的內(nèi)容秩序監(jiān)管框架，不僅可以規(guī)范生成服務(wù)提供者的源頭生成行為，也提高了使用和傳播生成內(nèi)容的透明度，這必然會大幅增加利用AIGC進行違法犯罪活動的成本，也為進一步遏制AIGC灰黑產(chǎn)業(yè)鏈和新型違法預留了制度接口。

　　不過，肖尤丹也向界面新聞表示，與當前AIGC監(jiān)管中存在的各類風險和合規(guī)空白區(qū)相比，《標識辦法》也并不完美。但從當下現(xiàn)實的視角來看，《標識辦法》的實施可以在相當一段時期內(nèi)消除AIGC服務(wù)和內(nèi)容生產(chǎn)合規(guī)風險不穩(wěn)定的預期，便于相關(guān)產(chǎn)業(yè)輕裝上陣，抓住AI帶來的新機遇，加快擴大技術(shù)應用規(guī)模和助力產(chǎn)業(yè)發(fā)展空間。