□ 胡立彪

AI（人工智能）技術(shù)是把“雙刃劍”。近日，知名醫(yī)學(xué)專家張文宏“被帶貨”事件再次印證了這句話。據(jù)媒體報(bào)道，有網(wǎng)友稱在網(wǎng)絡(luò)賣貨視頻中看到張文宏在售賣一種蛋白棒產(chǎn)品，仔細(xì)分辨能看出這是AI合成視頻。對此，張文宏回應(yīng)，他已發(fā)現(xiàn)多個(gè)以他的形象帶貨的賬號，并向相關(guān)平臺投訴，但屢禁不絕。

被AI技術(shù)假冒，張文宏并非第一個(gè)“躺槍者”。今年“十一”期間，短視頻平臺出現(xiàn)大量“雷軍AI配音”視頻，視頻中“雷軍”言辭犀利，還常爆粗口，這讓雷軍本人很無奈；11月，演員黃曉明在某節(jié)目中坦言，看到一段用AI換臉技術(shù)生成的“黃曉明”為某品牌代言的視頻；同月，胖東來創(chuàng)始人于東來發(fā)現(xiàn)自己被人用AI技術(shù)生成聲音賣藥，他嚴(yán)厲譴責(zé)這種欺騙行為，表示將訴諸法律追究相關(guān)者法律責(zé)任。

AI技術(shù)快速發(fā)展，使得視頻換臉、仿聲等技術(shù)門檻越來越低。據(jù)了解，AI聲音合成主要應(yīng)用的是AI深度學(xué)習(xí)算法，通過AI模型對采集的聲音樣本進(jìn)行處理，從而實(shí)現(xiàn)聲音“克隆”。目前市面上有一些AI軟件，讀取一個(gè)人的聲音，經(jīng)過大約30分鐘的分析和訓(xùn)練之后，再輸入一段文字，就可以模仿其聲音讀出來，足可以假亂真。

AI合成圖像、視頻、聲音技術(shù)日益成熟，讓“耳聽為真、眼見為實(shí)”的經(jīng)驗(yàn)不再靈驗(yàn)，這也帶來諸多問題。擬聲、換臉等AI合成技術(shù)逼真的一個(gè)負(fù)面指向是“亂”真。不法分子可以利用此類技術(shù)輕易偽裝成他人，并通過快速篩選目標(biāo)人群，精準(zhǔn)制定詐騙腳本。相關(guān)數(shù)據(jù)顯示，全球基于AI技術(shù)的深度偽造欺詐事件在過去幾年呈激增之勢，2023年發(fā)生合成身份欺詐事件比2021年增加了兩倍以上。相關(guān)研究機(jī)構(gòu)提醒，目前，業(yè)界對AI潛在風(fēng)險(xiǎn)的研究與重視程度遠(yuǎn)遠(yuǎn)不夠，在積極擁抱大模型等AI技術(shù)的同時(shí)，各界對其安全風(fēng)險(xiǎn)應(yīng)保持警醒。

我國民法典規(guī)定，聲音、肖像等都屬于民事主體的人格權(quán)利，受到法律保護(hù)。未經(jīng)允許，民事主體的聲音、肖像等不僅不能被直接使用，也不能被加工處理，進(jìn)行深度合成，放入合成物料庫或場景庫里。對民事主體的人臉信息、聲音信息等進(jìn)行編輯并展示，屬于偽造信息行為，按照民法典和網(wǎng)絡(luò)安全法的相關(guān)規(guī)定，相關(guān)當(dāng)事人應(yīng)承擔(dān)包括精神損害賠償在內(nèi)的民事責(zé)任，甚至承擔(dān)刑事責(zé)任。最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》明確，對利用深度合成等生成式人工智能技術(shù)發(fā)布違法信息的，依法從重處罰。

為有效防范AI技術(shù)被濫用，2022年11月，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，明確深度合成技術(shù)的使用規(guī)范，包括不得利用深度合成服務(wù)侵犯他人合法權(quán)益，深度合成服務(wù)提供者對深度合成的內(nèi)容添加顯式或隱式水印等規(guī)定。2024年9月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》，并配套發(fā)布國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》，提出AI生成合成內(nèi)容須作出標(biāo)識，并就標(biāo)識方式和內(nèi)容作出具體要求。

我國不斷完善AI技術(shù)應(yīng)用相關(guān)法規(guī)標(biāo)準(zhǔn)，將其裝入規(guī)范的“籠子”里。但AI技術(shù)日新月異，應(yīng)用場景快速擴(kuò)展，相關(guān)法規(guī)和監(jiān)管也要與時(shí)俱進(jìn)，跟上節(jié)奏步伐，讓AI技術(shù)應(yīng)用始終“戴著鐐銬舞蹈”。法律層面，立法機(jī)關(guān)應(yīng)及時(shí)關(guān)注AI技術(shù)的發(fā)展動(dòng)態(tài)，有針對性地完善相關(guān)法律法規(guī)，明確AI應(yīng)用違法構(gòu)成要件和法律責(zé)任，對使用AI技術(shù)虛假宣傳、欺詐消費(fèi)者的行為進(jìn)行詳細(xì)界定，規(guī)定相應(yīng)的處罰措施，提高不法分子的違法成本；互聯(lián)網(wǎng)平臺層面，要承擔(dān)起監(jiān)管責(zé)任，加大技術(shù)研發(fā)投入，建立一套高效、精準(zhǔn)的審核系統(tǒng)，利用AI技術(shù)反制AI違法行為，快速識別虛假AI直播內(nèi)容，并對相關(guān)責(zé)任人進(jìn)行處罰。

【觀象臺】