近日，國(guó)家互聯(lián)網(wǎng)信息辦公室攜手工業(yè)和信息化部、公安部以及國(guó)家廣播電視總局，共同出臺(tái)了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《辦法》），旨在推動(dòng)人工智能產(chǎn)業(yè)的健康發(fā)展，規(guī)范生成合成內(nèi)容的標(biāo)識(shí)方式，同時(shí)保障公民、法人和其他組織的合法權(quán)益，維護(hù)社會(huì)的公共利益。該《辦法》將于2025年9月1日正式生效。

隨著生成式人工智能和深度合成技術(shù)的迅猛進(jìn)步，這些技術(shù)為創(chuàng)造文本、圖片、音頻、視頻等合成內(nèi)容提供了極大便利，不僅促進(jìn)了經(jīng)濟(jì)發(fā)展，豐富了網(wǎng)絡(luò)內(nèi)容，還極大地便利了公眾生活。然而，這些技術(shù)的廣泛應(yīng)用也帶來(lái)了虛假信息傳播、網(wǎng)絡(luò)生態(tài)破壞等一系列問(wèn)題，引起了社會(huì)的廣泛關(guān)注。為此，加快相關(guān)立法、加強(qiáng)技術(shù)監(jiān)管、明確平臺(tái)責(zé)任成為了社會(huì)普遍呼吁的焦點(diǎn)。

《辦法》的出臺(tái)正是對(duì)社會(huì)關(guān)切和群眾需求的積極響應(yīng)。該《辦法》通過(guò)內(nèi)容標(biāo)識(shí)這一核心手段，細(xì)化了前期相關(guān)部門規(guī)章中關(guān)于標(biāo)識(shí)的具體要求，進(jìn)一步發(fā)揮了內(nèi)容標(biāo)識(shí)在提醒提示和監(jiān)督溯源方面的技術(shù)作用。其目標(biāo)是構(gòu)建一個(gè)開放、公正、有效的治理機(jī)制，為人工智能產(chǎn)業(yè)的健康有序發(fā)展?fàn)I造一個(gè)公平有序的環(huán)境。

根據(jù)《辦法》的規(guī)定，人工智能生成合成內(nèi)容的標(biāo)識(shí)主要包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種形式。顯式標(biāo)識(shí)是在生成合成內(nèi)容或交互場(chǎng)景界面中，通過(guò)文字、聲音、圖形等方式呈現(xiàn)，能夠被用戶明顯感知到的標(biāo)識(shí)；而隱式標(biāo)識(shí)則是通過(guò)技術(shù)措施在生成合成內(nèi)容的文件數(shù)據(jù)中添加，不易被用戶明顯感知到的標(biāo)識(shí)。

《辦法》明確要求，在開展人工智能生成合成內(nèi)容標(biāo)識(shí)活動(dòng)時(shí)，應(yīng)遵守《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》以及《生成式人工智能服務(wù)管理暫行辦法》的相關(guān)規(guī)定。服務(wù)提供者提供的生成合成服務(wù)，如果符合《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款的情形，應(yīng)當(dāng)按照要求對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)，并在文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)。

為了規(guī)范生成合成內(nèi)容的傳播活動(dòng)，《辦法》還規(guī)定，提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取一系列措施，包括核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識(shí)，并根據(jù)不同情況在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)，提醒公眾該內(nèi)容屬于生成合成內(nèi)容或可能為生成合成內(nèi)容。同時(shí)，服務(wù)提供者還應(yīng)提供必要的標(biāo)識(shí)功能，并提醒用戶主動(dòng)聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容。

值得注意的是，《辦法》強(qiáng)調(diào)，任何組織和個(gè)人都不得惡意刪除、篡改、偽造或隱匿生成合成內(nèi)容的標(biāo)識(shí)，也不得為他人實(shí)施上述惡意行為提供工具或服務(wù)，更不得通過(guò)不正當(dāng)?shù)臉?biāo)識(shí)手段損害他人的合法權(quán)益。

在具體實(shí)施方面，《辦法》要求互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)在應(yīng)用程序上架或上線審核時(shí)，應(yīng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說(shuō)明是否提供人工智能生成合成服務(wù)，并進(jìn)行相關(guān)材料的核驗(yàn)。服務(wù)提供者還應(yīng)在用戶服務(wù)協(xié)議中明確說(shuō)明生成合成內(nèi)容標(biāo)識(shí)的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細(xì)閱讀并理解相關(guān)的標(biāo)識(shí)管理要求。

對(duì)于用戶而言，如果申請(qǐng)服務(wù)提供者提供未添加顯式標(biāo)識(shí)的生成合成內(nèi)容，服務(wù)提供者可以在明確用戶的標(biāo)識(shí)義務(wù)和使用責(zé)任后，提供不含顯式標(biāo)識(shí)的生成合成內(nèi)容，并依法留存相關(guān)日志不少于六個(gè)月。而用戶在使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容時(shí)，應(yīng)主動(dòng)聲明并使用服務(wù)提供者提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。

最后，《辦法》還規(guī)定，服務(wù)提供者在履行算法備案、安全評(píng)估等手續(xù)時(shí)，應(yīng)按照《辦法》提供生成合成內(nèi)容標(biāo)識(shí)的相關(guān)材料，并加強(qiáng)標(biāo)識(shí)信息共享，為防范和打擊相關(guān)違法犯罪活動(dòng)提供支持和幫助。對(duì)于違反《辦法》規(guī)定的行為，將由網(wǎng)信、電信、公安和廣播電視等有關(guān)主管部門依據(jù)職責(zé)，按照相關(guān)法律、行政法規(guī)和部門規(guī)章的規(guī)定進(jìn)行處理。