利用人工智能“換臉”“擬聲”冒充親友實(shí)施詐騙，借助人工智能合成的假視頻冒充名醫(yī)、名人進(jìn)行虛假宣傳，通過人工智能生成謠言后在網(wǎng)上傳播……越來越多人工智能生成的信息，充斥在網(wǎng)絡(luò)中，真假難辨。
近年來，人工智能技術(shù)快速發(fā)展，為生成合成文字、圖片、音頻、視頻等信息提供了便利工具，海量信息得以快速生成合成并在網(wǎng)絡(luò)平臺(tái)傳播，在促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí)，也產(chǎn)生了生成合成技術(shù)濫用、虛假信息傳播擴(kuò)散加劇等問題，引發(fā)社會(huì)各界的關(guān)注。
為了促進(jìn)人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，保護(hù)公民、法人和其他組織合法權(quán)益，維護(hù)社會(huì)公共利益，近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》），自2025年9月1日起施行。
推動(dòng)建立新技術(shù)安全體系
《標(biāo)識(shí)辦法》重點(diǎn)解決“哪些是生成的”“誰(shuí)生成的”“從哪里生成的”等問題，推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理，力爭(zhēng)打造可信賴的人工智能技術(shù)。
據(jù)聯(lián)合國(guó)高級(jí)別人工智能咨詢機(jī)構(gòu)中方專家、中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒介紹，在人工智能生成合成內(nèi)容的生產(chǎn)環(huán)節(jié)，服務(wù)提供者應(yīng)對(duì)生成合成內(nèi)容添加標(biāo)識(shí)。服務(wù)提供者應(yīng)對(duì)文本、圖片、音頻、視頻、虛擬場(chǎng)景等典型應(yīng)用場(chǎng)景的生成合成內(nèi)容添加顯式標(biāo)識(shí)，并在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)，以明確內(nèi)容屬性、服務(wù)提供者信息等內(nèi)容。
在人工智能生成合成內(nèi)容的傳播環(huán)節(jié)，不同主體應(yīng)對(duì)標(biāo)識(shí)的合規(guī)性進(jìn)行確認(rèn)。服務(wù)提供者在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等服務(wù)時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)。網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)應(yīng)當(dāng)核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識(shí)，并采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)，明確提醒用戶。互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)在應(yīng)用程序上架或上線審核時(shí)，應(yīng)核驗(yàn)生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料。
在人工智能生成合成內(nèi)容的使用環(huán)節(jié)，用戶同樣應(yīng)履行標(biāo)識(shí)義務(wù)。服務(wù)提供者應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說明生成合成內(nèi)容標(biāo)識(shí)的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細(xì)閱讀并理解相關(guān)的標(biāo)識(shí)管理要求。用戶向網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)上傳生成合成內(nèi)容時(shí)，應(yīng)當(dāng)主動(dòng)聲明并使用平臺(tái)提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。
國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心正高級(jí)工程師張震表示，《標(biāo)識(shí)辦法》是對(duì)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》的繼承和延伸，從人工智能技術(shù)特性出發(fā)，在生成合成標(biāo)識(shí)這一人工智能安全治理關(guān)鍵上提出了針對(duì)性的管理思路，將成為我國(guó)建立健全人工智能新技術(shù)安全體系的重要推動(dòng)力。
“《標(biāo)識(shí)辦法》進(jìn)一步明確了人工智能生成合成內(nèi)容全生命周期履行標(biāo)識(shí)義務(wù)的具體要求與主體責(zé)任，完善了我國(guó)生成式人工智能的治理框架。”張凌寒說。
張震認(rèn)為，《標(biāo)識(shí)辦法》充分彰顯了監(jiān)管理念的與時(shí)俱進(jìn)，從傳統(tǒng)的嚴(yán)格監(jiān)管轉(zhuǎn)向更加靈活的引導(dǎo)與規(guī)范，既尊重了技術(shù)創(chuàng)新的內(nèi)在規(guī)律，又體現(xiàn)對(duì)潛在風(fēng)險(xiǎn)的有效防范。
同步發(fā)布強(qiáng)制性國(guó)家標(biāo)準(zhǔn)
為推動(dòng)《標(biāo)識(shí)辦法》落地實(shí)施，強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》（以下簡(jiǎn)稱《標(biāo)識(shí)標(biāo)準(zhǔn)》）同步發(fā)布。
國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人介紹說，《標(biāo)識(shí)辦法》主要從立法層面提出管理要求，明確生成合成內(nèi)容制作傳播各主體的責(zé)任義務(wù)，為促進(jìn)人工智能技術(shù)創(chuàng)新發(fā)展，對(duì)具體實(shí)施操作不作要求�！稑�(biāo)識(shí)標(biāo)準(zhǔn)》以強(qiáng)制性國(guó)家標(biāo)準(zhǔn)形式制定實(shí)施，主要提出強(qiáng)制執(zhí)行部分的標(biāo)識(shí)具體實(shí)施方式和操作方法，兩者同步推出，于2025年9月1日同步實(shí)施，以更好地指導(dǎo)相關(guān)主體規(guī)范開展標(biāo)識(shí)活動(dòng)。
“《標(biāo)識(shí)標(biāo)準(zhǔn)》作為《標(biāo)識(shí)辦法》的補(bǔ)充，明確了生成合成內(nèi)容標(biāo)識(shí)應(yīng)當(dāng)遵循的技術(shù)方法，為產(chǎn)業(yè)落地提供了參考依據(jù)。”張震說。
在中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院副院長(zhǎng)范科峰看來，此次《標(biāo)識(shí)辦法》《標(biāo)識(shí)標(biāo)準(zhǔn)》的協(xié)同發(fā)布，破解了以往治理中管理規(guī)范與技術(shù)標(biāo)準(zhǔn)銜接不暢的問題，形成了“制度牽引技術(shù)落地，技術(shù)固化制度要求”的治理閉環(huán)。
作為我國(guó)人工智能領(lǐng)域首部“辦法+強(qiáng)標(biāo)”組合拳，其創(chuàng)新性體現(xiàn)在三個(gè)維度：管理維度明確生成、傳播、分發(fā)全鏈條主體責(zé)任；監(jiān)管維度建立審核、監(jiān)測(cè)、追責(zé)的閉環(huán)機(jī)制；技術(shù)維度規(guī)范顯隱標(biāo)識(shí)體系并預(yù)留創(chuàng)新空間。范科峰說，“這種三位一體的治理架構(gòu)，既通過管理機(jī)制明確責(zé)任邊界，又依托監(jiān)管舉措筑牢安全防線，更以技術(shù)標(biāo)準(zhǔn)固化治理要求，為人工智能安全治理提供了清晰的實(shí)施路徑�！�
規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)的舉措還有許多。全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)針對(duì)生成合成服務(wù)提供者和內(nèi)容傳播服務(wù)提供者的平臺(tái)編碼，組織起草了配套實(shí)踐指南《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——人工智能生成合成內(nèi)容標(biāo)識(shí) 服務(wù)提供者編碼規(guī)則》，已于3月14日正式獲批發(fā)布，為相關(guān)主體開展文件元數(shù)據(jù)隱式標(biāo)識(shí)提供了編碼指引。
此外，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)正在就各文件格式的元數(shù)據(jù)標(biāo)識(shí)規(guī)范、各應(yīng)用場(chǎng)景的標(biāo)識(shí)方法等組織編制一系列推薦性標(biāo)準(zhǔn)、實(shí)踐指南，將在《標(biāo)識(shí)辦法》發(fā)布后逐步推出。
全社會(huì)凝心聚力協(xié)同配合
《標(biāo)識(shí)辦法》《標(biāo)識(shí)標(biāo)準(zhǔn)》的發(fā)布，標(biāo)志著我國(guó)在人工智能安全治理領(lǐng)域邁出了重要的一步。推動(dòng)《標(biāo)識(shí)辦法》《標(biāo)識(shí)標(biāo)準(zhǔn)》落地的重要性不言而喻。
“考慮到企業(yè)需要時(shí)間充分理解相關(guān)規(guī)定和標(biāo)準(zhǔn)規(guī)范，有針對(duì)性地開展能力建設(shè)和功能研發(fā)，基于標(biāo)識(shí)技術(shù)實(shí)施的復(fù)雜程度、試點(diǎn)試行的實(shí)踐經(jīng)驗(yàn)，設(shè)定《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》6個(gè)月左右的施行過渡期�！眹�(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人說。
“《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》的落地離不開全社會(huì)的凝心聚力和協(xié)同配合。”中國(guó)工程院院士、浙江大學(xué)教授陳純說，地方主管部門、高校、科研機(jī)構(gòu)、企業(yè)可共同參與，充分利用新媒體、新渠道面向全社會(huì)進(jìn)行大力宣貫，形成標(biāo)識(shí)工作先行的多點(diǎn)協(xié)同內(nèi)容治理網(wǎng)絡(luò)，推動(dòng)標(biāo)識(shí)工作行穩(wěn)致遠(yuǎn)。此外，有必要建立全國(guó)性的內(nèi)容標(biāo)識(shí)公共服務(wù)平臺(tái)，以可視可交互的實(shí)際操練形式，配合口頭宣貫，促進(jìn)公眾和產(chǎn)業(yè)深入理解標(biāo)識(shí)工作。
“可以預(yù)見，我國(guó)人工智能安全執(zhí)法將延續(xù)重點(diǎn)事項(xiàng)監(jiān)管、促進(jìn)產(chǎn)業(yè)有序發(fā)展的方向。”公安部第三研究所副所長(zhǎng)金波認(rèn)為，伴隨標(biāo)識(shí)管理與算法備案、安全評(píng)估等機(jī)制逐步實(shí)現(xiàn)有機(jī)銜接，生成合成內(nèi)容標(biāo)識(shí)合規(guī)有望成為相關(guān)部門開展人工智能監(jiān)督檢查、專項(xiàng)行動(dòng)的重點(diǎn)關(guān)注領(lǐng)域。在此進(jìn)程中，一系列深層次問題亟待審慎思考與妥善解決——如何平衡發(fā)展與安全、創(chuàng)新與責(zé)任、公益與私益等多元目標(biāo)的內(nèi)在張力，怎樣達(dá)成不同執(zhí)法部門、不同層級(jí)、不同地域執(zhí)法的一致性、協(xié)調(diào)性，又該通過何種路徑提升執(zhí)法的專業(yè)化、精細(xì)化、智慧化水平，從而培育出安全、開放、公平、符合國(guó)情的人工智能產(chǎn)業(yè)生態(tài)環(huán)境。這些都是標(biāo)識(shí)管理中需要深入探究的重要課題。
“此外，‘人的因素’應(yīng)融入人工智能標(biāo)識(shí)管理的全過程，著重提升公眾對(duì)于信息內(nèi)容真實(shí)性、來源可追溯性的批判性評(píng)估能力，無疑是重中之重。積極培育公眾人工智能素養(yǎng)，確保人工智能技術(shù)成果普惠共享，這也是應(yīng)有之義�！苯鸩ㄕf。
張凌寒認(rèn)為，目前的人工智能生成合成內(nèi)容標(biāo)識(shí)制度主要關(guān)注于“是否機(jī)器生成”的形式判斷，隨著標(biāo)識(shí)技術(shù)的進(jìn)步與發(fā)展，未來標(biāo)識(shí)制度能夠發(fā)揮更為豐富的功能，從形式判斷逐漸轉(zhuǎn)向“是否足夠可靠”的質(zhì)量判斷，進(jìn)一步促進(jìn)行業(yè)健康發(fā)展。
