□ 胡立彪

國家網(wǎng)信辦等部門近日聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》），明確要求對可能導(dǎo)致公眾混淆或者誤認的生成合成內(nèi)容添加顯式或隱式標(biāo)識。這是全球范圍內(nèi)首部關(guān)于人工智能（AI）生成合成內(nèi)容標(biāo)識的國家標(biāo)準(zhǔn)，是關(guān)于AI內(nèi)容治理機制建設(shè)的重要探索，對推動AI內(nèi)容產(chǎn)業(yè)有序發(fā)展具有重要的指導(dǎo)意義。

近年來，AI技術(shù)迅速發(fā)展，為用戶生成合成多元化的文本、圖片、代碼、音頻、視頻、虛擬場景等信息提供了重要工具，促進了相關(guān)產(chǎn)業(yè)繁榮，也為經(jīng)濟社會發(fā)展創(chuàng)造了巨大機遇。截至去年底，我國已有302款生成式AI服務(wù)在國家網(wǎng)信辦完成備案，生成式AI產(chǎn)品用戶規(guī)模達到2.3億人。今年政府工作報告提出，持續(xù)推進“人工智能+”行動，將數(shù)字技術(shù)與制造優(yōu)勢、市場優(yōu)勢更好結(jié)合起來，支持大模型廣泛應(yīng)用。

AI技術(shù)在推動各行各業(yè)技術(shù)革新的同時，也帶來深度偽造、虛假信息等潛在風(fēng)險。有媒體調(diào)查，一家MCN（多渠道網(wǎng)絡(luò)）機構(gòu)利用AI技術(shù)每天生成數(shù)千篇謠言文章，它們看上去都“真實合理”，對于不熟悉互聯(lián)網(wǎng)技術(shù)的受眾而言，其中“有圖有真相”的信息內(nèi)容很容易信以為真?！暗罔F行兇”“西安突發(fā)爆炸”“重慶巫溪一民房發(fā)生爆炸事故”等虛假圖片、視頻都曾產(chǎn)生惡劣的社會影響，它們均為AI批量制造。

AI技術(shù)被濫用的最大問題是實施犯罪。2024年6月，“男子用AI偽造學(xué)生同事裸照”沖上微博熱搜。據(jù)調(diào)查，犯罪嫌疑人用AI“一鍵去衣”技術(shù)，深度偽造淫穢圖片近7000張，再以每張1.5元賣出，非法獲利近萬元。2024年1月，香港一家跨國公司遭遇“變臉”詐騙，詐騙者通過公開渠道獲取相關(guān)資料，利用深度偽造技術(shù)合成該公司高管的形象和聲音，并制作出多人參與視頻會議的虛假視頻，詐騙金額高達2億港元。

許多技術(shù)革新都有“雙刃劍”屬性，AI技術(shù)也是如此。在挖掘AI技術(shù)正向功能的同時，正視其潛在風(fēng)險并進行相應(yīng)的規(guī)制與防范，已經(jīng)成為國際共識。2024年4月，美國國家標(biāo)準(zhǔn)與技術(shù)研究院發(fā)布《降低合成內(nèi)容帶來的風(fēng)險》，列出檢測、驗證和標(biāo)記合成內(nèi)容的方法，包括數(shù)字水印和元數(shù)據(jù)記錄。2024年8月1日，歐盟《人工智能法》正式生效，規(guī)定生成合成音頻、圖像、視頻或文本內(nèi)容的有限風(fēng)險AI系統(tǒng)應(yīng)履行透明度與明確標(biāo)識義務(wù)。2024年3月，聯(lián)合國發(fā)布《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機遇，促進可持續(xù)發(fā)展》，鼓勵開發(fā)和部署有效、可獲取、適應(yīng)性強、具有國際互操作性的內(nèi)容認證和來源識別機制。

綜合來看，不論是有關(guān)國家還是國際組織，均肯定AI生成內(nèi)容標(biāo)識的制度價值，并已提出相應(yīng)規(guī)范，在價值層面倡導(dǎo)真實性以遏制虛假信息、深度偽造，在技術(shù)層面大都采用水印、內(nèi)容標(biāo)簽等標(biāo)識技術(shù)進行規(guī)制。我國在規(guī)范AI應(yīng)用方面走在全球前列。國家網(wǎng)信辦等部門于2022年發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，是世界范圍內(nèi)首次明確提出生成式AI標(biāo)識義務(wù)的部門規(guī)章，要求深度合成服務(wù)提供者對深度合成服務(wù)履行標(biāo)識義務(wù)。

《標(biāo)識辦法》承繼該規(guī)定的管理理念，對AI生成合成內(nèi)容的標(biāo)識方法提出要求，通過顯式標(biāo)識明確“哪些內(nèi)容是生成的”，隱式標(biāo)識明確“是誰生成的”和“由誰傳播的”，厘清了AI生成合成內(nèi)容的全生命周期中網(wǎng)絡(luò)信息服務(wù)提供者等不同主體的合規(guī)責(zé)任，從而降低AI安全風(fēng)險，促進行業(yè)健康發(fā)展。

AI治理是一項復(fù)雜的系統(tǒng)工程，需要技術(shù)、法律、倫理等多維度協(xié)同。《標(biāo)識辦法》出臺標(biāo)志著我國在AI治理領(lǐng)域邁出了重要一步。接下來，還要進一步完善AI風(fēng)險治理“制度工具箱”，建立融合支持發(fā)展、激勵創(chuàng)新、防控風(fēng)險、保障權(quán)益等多方面目標(biāo)的AI風(fēng)險治理體系，引導(dǎo)生成式AI技術(shù)及應(yīng)用良性發(fā)展。

【觀象臺】