近日，國家互聯網信息辦公室攜手工業和信息化部、公安部以及國家廣播電視總局，共同出臺了《人工智能生成合成內容標識辦法》（以下簡稱《辦法》），旨在推動人工智能產業的健康發展，規范生成合成內容的標識方式，同時保障公民、法人和其他組織的合法權益，維護社會的公共利益。該《辦法》將于2025年9月1日正式生效。

隨著生成式人工智能和深度合成技術的迅猛進步，這些技術為創造文本、圖片、音頻、視頻等合成內容提供了極大便利，不僅促進了經濟發展，豐富了網絡內容，還極大地便利了公眾生活。然而，這些技術的廣泛應用也帶來了虛假信息傳播、網絡生態破壞等一系列問題，引起了社會的廣泛關注。為此，加快相關立法、加強技術監管、明確平臺責任成為了社會普遍呼吁的焦點。

《辦法》的出臺正是對社會關切和群眾需求的積極響應。該《辦法》通過內容標識這一核心手段，細化了前期相關部門規章中關于標識的具體要求，進一步發揮了內容標識在提醒提示和監督溯源方面的技術作用。其目標是構建一個開放、公正、有效的治理機制，為人工智能產業的健康有序發展營造一個公平有序的環境。

根據《辦法》的規定，人工智能生成合成內容的標識主要包括顯式標識和隱式標識兩種形式。顯式標識是在生成合成內容或交互場景界面中，通過文字、聲音、圖形等方式呈現，能夠被用戶明顯感知到的標識；而隱式標識則是通過技術措施在生成合成內容的文件數據中添加，不易被用戶明顯感知到的標識。

《辦法》明確要求，在開展人工智能生成合成內容標識活動時，應遵守《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》以及《生成式人工智能服務管理暫行辦法》的相關規定。服務提供者提供的生成合成服務，如果符合《互聯網信息服務深度合成管理規定》第十七條第一款的情形，應當按照要求對生成合成內容添加顯式標識，并在文件元數據中添加隱式標識。

為了規范生成合成內容的傳播活動，《辦法》還規定，提供網絡信息內容傳播服務的服務提供者應當采取一系列措施，包括核驗文件元數據中是否含有隱式標識，并根據不同情況在發布內容周邊添加顯著的提示標識，提醒公眾該內容屬于生成合成內容或可能為生成合成內容。同時，服務提供者還應提供必要的標識功能，并提醒用戶主動聲明發布內容中是否包含生成合成內容。

值得注意的是，《辦法》強調，任何組織和個人都不得惡意刪除、篡改、偽造或隱匿生成合成內容的標識，也不得為他人實施上述惡意行為提供工具或服務，更不得通過不正當的標識手段損害他人的合法權益。

在具體實施方面，《辦法》要求互聯網應用程序分發平臺在應用程序上架或上線審核時，應要求互聯網應用程序服務提供者說明是否提供人工智能生成合成服務，并進行相關材料的核驗。服務提供者還應在用戶服務協議中明確說明生成合成內容標識的方法、樣式等規范內容，并提示用戶仔細閱讀并理解相關的標識管理要求。

對于用戶而言，如果申請服務提供者提供未添加顯式標識的生成合成內容，服務提供者可以在明確用戶的標識義務和使用責任后，提供不含顯式標識的生成合成內容，并依法留存相關日志不少于六個月。而用戶在使用網絡信息內容傳播服務發布生成合成內容時，應主動聲明并使用服務提供者提供的標識功能進行標識。

最后，《辦法》還規定，服務提供者在履行算法備案、安全評估等手續時，應按照《辦法》提供生成合成內容標識的相關材料，并加強標識信息共享，為防范和打擊相關違法犯罪活動提供支持和幫助。對于違反《辦法》規定的行為，將由網信、電信、公安和廣播電視等有關主管部門依據職責，按照相關法律、行政法規和部門規章的規定進行處理。