蘇　宇

近日，國家互聯(lián)網(wǎng)信息辦公室、公安部等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡稱《標(biāo)識(shí)辦法》）。同時(shí)，配套強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)　人工智能生成合成內(nèi)容標(biāo)識(shí)方法》（以下簡稱《標(biāo)識(shí)方法》）已由國家市場(chǎng)監(jiān)督管理總局、國家標(biāo)準(zhǔn)化管理委員會(huì)正式批準(zhǔn)發(fā)布，將于2025年9月1日與《標(biāo)識(shí)辦法》同步實(shí)施，引發(fā)社會(huì)廣泛關(guān)注。

近年來，生成式人工智能技術(shù)及應(yīng)用迅速發(fā)展，為用戶生成合成多元化的文本、圖片、代碼、音頻、視頻、虛擬場(chǎng)景等信息提供了重要工具，促進(jìn)了人工智能產(chǎn)業(yè)的繁榮，也為經(jīng)濟(jì)社會(huì)發(fā)展帶來了巨大機(jī)遇。然而，生成合成內(nèi)容真?zhèn)位祀s、良莠難辨，存在傳播虛假信息、危害網(wǎng)絡(luò)生態(tài)、引發(fā)詐騙犯罪等多種風(fēng)險(xiǎn)。當(dāng)前，許多國家和地區(qū)正探索將人工智能生成內(nèi)容標(biāo)識(shí)義務(wù)入法，國內(nèi)外多家互聯(lián)網(wǎng)公司也在逐步推進(jìn)標(biāo)識(shí)嵌入和管理舉措。內(nèi)容標(biāo)識(shí)已然成為全球范圍內(nèi)治理人工智能生成內(nèi)容風(fēng)險(xiǎn)的重要選項(xiàng)，我國對(duì)此尤為重視。

經(jīng)過深入調(diào)研、廣泛征求意見、多輪技術(shù)論證試點(diǎn)通過的《標(biāo)識(shí)辦法》和《標(biāo)識(shí)方法》，系統(tǒng)建立了人工智能生成合成內(nèi)容標(biāo)識(shí)制度，滿足了人工智能生成內(nèi)容治理的多重迫切需求，具有重要意義。首先，《標(biāo)識(shí)辦法》的出臺(tái)有利于內(nèi)容溯源和風(fēng)險(xiǎn)防控。在“萬物皆可AI”的語境下，機(jī)器生成的信息比例越來越高、內(nèi)容越來越逼真，公眾僅從信息外觀上往往無法判斷其來源與真?zhèn)巍Ｈ绶湃翁摷傩畔⒎簽E，將嚴(yán)重削弱社會(huì)公眾對(duì)信息網(wǎng)絡(luò)生態(tài)的信任。根據(jù)《標(biāo)識(shí)方法》，標(biāo)識(shí)可通過元數(shù)據(jù)嵌入各種信息，用于記錄文件來源、屬性、用途等，具體包括生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或編碼、內(nèi)容編號(hào)等制作要素信息，同時(shí)還可以嵌入數(shù)字水印等其他類型的標(biāo)識(shí)，助力監(jiān)管部門對(duì)人工智能生成內(nèi)容進(jìn)行溯源分析與研判，及時(shí)阻斷違法信息和不良信息的傳播，從而降低造謠、詐騙、信息污染等風(fēng)險(xiǎn)。

其次，《標(biāo)識(shí)辦法》的出臺(tái)有利于更好保障用戶權(quán)益。生成式人工智能不僅改變了人們獲取信息、創(chuàng)作內(nèi)容的方式，也使知情權(quán)、著作權(quán)等方面的權(quán)益保障需求變得愈發(fā)迫切。根據(jù)《標(biāo)識(shí)辦法》的要求，對(duì)人工智能生成內(nèi)容的標(biāo)識(shí)行為被具體化為顯式標(biāo)識(shí)或隱式標(biāo)識(shí)。顯式標(biāo)識(shí)以顯著形式發(fā)揮類似“署名”的功能，便于公眾快速識(shí)別內(nèi)容類型乃至生成來源，有助于保障使用者及公眾的知情權(quán)，防范被誤導(dǎo)、被詐騙的潛在風(fēng)險(xiǎn)。隱式標(biāo)識(shí)則以相對(duì)隱蔽的形式隱含了有關(guān)作品生成的信息，可以更充分地發(fā)揮溯源功能，在防控風(fēng)險(xiǎn)的同時(shí)，有利于確認(rèn)生成內(nèi)容的著作權(quán)歸屬，保護(hù)原創(chuàng)作者的合法權(quán)益。

再次，《標(biāo)識(shí)辦法》的出臺(tái)有利于營造健康、透明的內(nèi)容生態(tài)。隨著生成式人工智能技術(shù)的迅速發(fā)展和廣泛應(yīng)用，用戶自行辨別內(nèi)容來源及可信度的能力在具有規(guī)模性、逼真度和吸引力的生成合成內(nèi)容面前日顯單薄。《標(biāo)識(shí)辦法》和《標(biāo)識(shí)方法》及時(shí)回應(yīng)了對(duì)海量生成合成內(nèi)容賦予“身份標(biāo)記”的緊迫需求，并且建立了覆蓋用戶、各類網(wǎng)絡(luò)信息服務(wù)提供者和互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)的義務(wù)與責(zé)任體系，極大便利了公眾識(shí)別、平臺(tái)治理和監(jiān)管研判，為人工智能時(shí)代營造風(fēng)清氣正的網(wǎng)絡(luò)生態(tài)提供了基礎(chǔ)性的助力。

值得肯定的是，《標(biāo)識(shí)辦法》對(duì)于標(biāo)識(shí)方案的選擇廣開言路、實(shí)事求是，統(tǒng)籌發(fā)展和安全，對(duì)于文本、圖片、視頻、音頻等不同類型內(nèi)容的標(biāo)識(shí)采取了因事制宜的方案，同時(shí)鼓勵(lì)服務(wù)提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標(biāo)識(shí)，對(duì)標(biāo)識(shí)核驗(yàn)義務(wù)、應(yīng)用審核義務(wù)和留存日志要求等也作出了合理規(guī)定，為穩(wěn)妥有序發(fā)展切實(shí)可行的人工智能生成合成內(nèi)容標(biāo)識(shí)體系奠定了基石，并為大模型時(shí)代的信息內(nèi)容生態(tài)治理鋪平了道路。

《標(biāo)識(shí)辦法》與《標(biāo)識(shí)方法》的制定體現(xiàn)了有關(guān)部門對(duì)迅猛發(fā)展的生成式人工智能技術(shù)及應(yīng)用的迅速回應(yīng)與積極作為，積聚了有益的行政立法經(jīng)驗(yàn)，更為人工智能生成內(nèi)容的風(fēng)險(xiǎn)治理貢獻(xiàn)了中國方案。展望未來，生成式人工智能的應(yīng)用場(chǎng)景還會(huì)不斷拓展，現(xiàn)有的制度成果仍需緊跟時(shí)代步伐，持續(xù)優(yōu)化完善，以更好地應(yīng)對(duì)復(fù)雜多變的風(fēng)險(xiǎn)挑戰(zhàn)。為此，要進(jìn)一步充實(shí)和完善生成式人工智能風(fēng)險(xiǎn)治理的“制度工具箱”，建立融合支持發(fā)展、激勵(lì)創(chuàng)新、防控風(fēng)險(xiǎn)、保障權(quán)益等多方面目標(biāo)的人工智能風(fēng)險(xiǎn)治理體系，引導(dǎo)生成式人工智能技術(shù)及應(yīng)用良性發(fā)展，為公眾提供更加安全、可信、優(yōu)質(zhì)、可持續(xù)的人工智能服務(wù)，讓人工智能真正成為推動(dòng)社會(huì)進(jìn)步、提升人類福祉的強(qiáng)大引擎，助力開創(chuàng)更加美好的數(shù)字未來。

（中國人民公安大學(xué)法學(xué)院教授、數(shù)據(jù)法學(xué)研究院院長）