協(xié)會官方微信

首頁  >>  新聞資訊  >>  行業(yè)動態(tài)  >>  正文

國家網(wǎng)信辦聯(lián)合多部門發(fā)布《人工智能生成合成內(nèi)容標識
辦法》

發(fā)布時間:2025-3-18     來源:科技日報    編輯:衡盛楠    審核:張經(jīng)緯 王靜
摘要:近日,國家網(wǎng)信辦聯(lián)合多部門發(fā)布《人工智能生成合成內(nèi)容標識辦法》(以下簡稱《標識辦法》),自9月1日起施行。

生成式人工智能、深度合成等新技術(shù)快速發(fā)展,為生成合成文本、圖片、音視頻等提供了便利工具,在促進經(jīng)濟發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時,也造成虛假信息傳播、破壞網(wǎng)絡(luò)生態(tài)等問題。

國家網(wǎng)信辦有關(guān)負責人表示,《標識辦法》聚焦人工智能生成合成內(nèi)容標識關(guān)鍵點,通過標識提醒用戶辨別虛假信息,明確相關(guān)服務(wù)主體的標識責任義務(wù),規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標識行為,以合理成本提高安全性,促進人工智能在文本對話、內(nèi)容制作、輔助設(shè)計等各應(yīng)用場景加快落地。同時,減輕人工智能生成合成技術(shù)濫用危害,防范利用人工智能技術(shù)制作傳播虛假信息等風險行為,推動人工智能健康有序發(fā)展。

探索顯隱雙標識機制

生成合成內(nèi)容標識已成為國際慣例。公安部第三研究所副所長金波介紹,歐盟《人工智能法》、美國《編輯和深度偽造內(nèi)容來源保護完整性法案》、英國《人工智能(監(jiān)管)法案》等均對水印、標識義務(wù)有要求。在我國,20231月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出針對文本、圖像、音頻、視頻、虛擬場景等信息內(nèi)容的標識要求,20238月施行的《生成式人工智能服務(wù)管理暫行辦法》承襲相關(guān)規(guī)定。此次《標識辦法》明確,人工智能生成合成內(nèi)容標識主要包括顯式標識和隱式標識兩種形式。顯式標識是指在生成合成內(nèi)容或者交互場景界面中添加的,以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標識;隱式標識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的,不易被用戶明顯感知到的標識。《標識辦法》要求,服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的,應(yīng)當按照要求對生成合成內(nèi)容添加顯式標識;服務(wù)提供者應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定,在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識;提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當采取技術(shù)措施,規(guī)范生成合成內(nèi)容傳播活動。我國迄今已備案生成式人工智能產(chǎn)品300余款,生成合成服務(wù)3000余個,有力推動了人工智能行業(yè)的快速發(fā)展。國家計算機網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心正高級工程師張震表示,《標識辦法》是對我國人工智能算法治理體系的進一步完善。

實現(xiàn)全鏈條治理

《標識辦法》明確,互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺在應(yīng)用程序上架或者上線審核時,應(yīng)當要求服務(wù)提供者說明是否提供人工智能生成合成服務(wù)。對此,張震談到,《標識辦法》明確了文本、圖像、音頻、視頻等多模態(tài)的標識要求,將安全治理深入到內(nèi)容模態(tài)層面,并創(chuàng)新性地將傳播平臺納入監(jiān)管范疇,實現(xiàn)從生成到傳播的全鏈條治理。值得注意的是,配套《標識辦法》,強制性國家標準《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標識方法》(以下簡稱《標識標準》)將于91日同步實施,以更好指導(dǎo)相關(guān)主體規(guī)范開展標識活動。這開創(chuàng)了技術(shù)標準與管理制度配合實施的新型治理模式,標志著我國人工智能安全治理邁入技管雙強的新階段。中國電子技術(shù)標準化研究院副院長范科峰認為,二者協(xié)同發(fā)布,破解了以往治理中管理規(guī)范與技術(shù)標準銜接不暢的問題。在他看來,作為我國人工智能領(lǐng)域首部辦法+強標組合拳,其在管理維度明確生成、傳播、分發(fā)全鏈條主體責任,在監(jiān)管維度建立審核、監(jiān)測、追責的閉環(huán)機制,在技術(shù)維度規(guī)范顯隱標識體系并預(yù)留創(chuàng)新空間,這種三位一體的治理架構(gòu)為人工智能安全治理提供了清晰的實施路徑。


中國儀器儀表行業(yè)協(xié)會版權(quán)所有   |   京ICP備13023518號-1   |   京公網(wǎng)安備 110102003807
地址:北京市西城區(qū)百萬莊大街16號1號樓6層   |   郵編:100037   |   電話:010-68596456 / 68596458
戰(zhàn)略合作伙伴、技術(shù)支持:中國機械工業(yè)聯(lián)合會機經(jīng)網(wǎng)(MEI)