深度合成服務(wù)是我國(guó)互聯(lián)網(wǎng)信息內(nèi)容治理的重要領(lǐng)域，因其對(duì)互聯(lián)網(wǎng)信息內(nèi)容安全存在巨大影響，是具有高敏感的算法推薦服務(wù)種類。中共中央印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要（2020-2025年）》中，明確提出將深度偽造立法作為完善網(wǎng)絡(luò)信息服務(wù)法律法規(guī)的重要項(xiàng)目?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中將生成合成類算法作為五類算法推薦服務(wù)之首進(jìn)行規(guī)制。由此可見(jiàn)，規(guī)范深度合成技術(shù)、應(yīng)用及服務(wù)在我國(guó)互聯(lián)網(wǎng)治理中的重要地位?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下文簡(jiǎn)稱《規(guī)定》）的頒布實(shí)施，標(biāo)志著我國(guó)算法安全治理體系的進(jìn)一步完善?！兑?guī)定》將深度合成為代表的生成合成類算法作為算法安全治理體系細(xì)化的第一步，一方面是由于深度合成屬于高敏感性的與互聯(lián)網(wǎng)信息內(nèi)容安全息息相關(guān)的技術(shù)應(yīng)用，另一方面是因?yàn)樯疃群铣杉夹g(shù)將成為網(wǎng)絡(luò)虛擬空間與現(xiàn)實(shí)物理世界虛實(shí)結(jié)合、融為一體的關(guān)鍵技術(shù)應(yīng)用，未來(lái)存在巨大發(fā)展空間。

一、聚焦深度合成信息內(nèi)容安全

深度合成技術(shù)能否被合法應(yīng)用，是關(guān)系互聯(lián)網(wǎng)信息內(nèi)容安全的大事。虛假信息一直是互聯(lián)網(wǎng)治理的痛點(diǎn)與難點(diǎn)，深度合成技術(shù)的廣泛應(yīng)用則對(duì)虛假信息的治理提出了更高的要求。俗語(yǔ)說(shuō)“耳聽(tīng)為虛，眼見(jiàn)為實(shí)”“有圖有真相”，可見(jiàn)照片、視頻在公眾潛意識(shí)中的真實(shí)性遠(yuǎn)勝文字。而深度合成技術(shù)則恰恰顛覆了這一公眾認(rèn)知，可以偽造音頻、圖片、視頻，捏造人物的行為與語(yǔ)言。作為人工智能深度學(xué)習(xí)領(lǐng)域的一個(gè)分支，深度合成技術(shù)在近幾年迅速興起，為政治、軍事、經(jīng)濟(jì)犯罪甚至恐怖活動(dòng)等提供了新工具，帶來(lái)嚴(yán)峻安全挑戰(zhàn)。

基于深度合成一旦被濫用可能造成的巨大風(fēng)險(xiǎn)，近年來(lái)我國(guó)陸續(xù)頒布法律法規(guī)，回應(yīng)深度合成技術(shù)帶來(lái)的挑戰(zhàn)。2020年，國(guó)家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國(guó)家廣播電視總局三部門(mén)聯(lián)合頒布實(shí)施《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，明確提出對(duì)基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用上線具有媒體屬性或社會(huì)動(dòng)員功能的音視頻信息服務(wù)開(kāi)展安全評(píng)估，對(duì)非真實(shí)音視頻信息進(jìn)行標(biāo)識(shí)，不得利用深度學(xué)習(xí)技術(shù)制作并傳播虛假新聞信息，部署鑒別技術(shù)，盡快建立辟謠機(jī)制等措施。2020年，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》要求網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動(dòng)。2021年開(kāi)始實(shí)施的《民法典》人格權(quán)編中明確規(guī)定，不論是否出于營(yíng)利目的，均不得利用信息技術(shù)手段偽造他人肖像、聲音。2022年，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》明確要求不得生成合成虛假新聞信息。

此次《規(guī)定》聚焦深度合成服務(wù)，與既往法律法規(guī)一脈相承，以保障互聯(lián)網(wǎng)信息內(nèi)容安全為主要目標(biāo)。《規(guī)定》要求深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。《規(guī)定》同時(shí)要求任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，并要求深度合成服務(wù)提供者建立健全辟謠機(jī)制。

以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能為代表的數(shù)字領(lǐng)域是我國(guó)發(fā)展最快、創(chuàng)新最活躍、輻射最廣泛的新興領(lǐng)域，是公民聚集規(guī)模最大的領(lǐng)域。截至2022年6月，我國(guó)網(wǎng)民規(guī)模達(dá)10.51億，互聯(lián)網(wǎng)已成為參與人數(shù)最多的輿論場(chǎng)、意識(shí)形態(tài)斗爭(zhēng)的主戰(zhàn)場(chǎng)。確保深度合成服務(wù)應(yīng)用在法律邊界內(nèi)運(yùn)行，落實(shí)深度合成服務(wù)提供者信息安全主體責(zé)任，建立深度合成信息內(nèi)容的辟謠機(jī)制，都是《規(guī)定》為確保網(wǎng)絡(luò)信息內(nèi)容安全建立的制度保障。

二、明晰深度合成產(chǎn)業(yè)合規(guī)框架

《規(guī)定》的亮點(diǎn)與特色是結(jié)合深度合成技術(shù)、服務(wù)、應(yīng)用的特點(diǎn)，將監(jiān)管的觸角從信息內(nèi)容服務(wù)層面深入到了技術(shù)開(kāi)發(fā)應(yīng)用層面，將監(jiān)管的對(duì)象從深度合成服務(wù)提供者拓展至深度合成技術(shù)支持者和使用者，同時(shí)對(duì)深度合成服務(wù)提供者和技術(shù)支持者提出了明確的技術(shù)要求。這些深度合成的合規(guī)要求主要體現(xiàn)于“數(shù)據(jù)和技術(shù)管理”規(guī)范專章。

第一，監(jiān)管從信息內(nèi)容服務(wù)層面深入到技術(shù)開(kāi)發(fā)應(yīng)用層面。這是由于一方面深度合成技術(shù)的開(kāi)源開(kāi)放使得深度合成門(mén)檻越來(lái)越低，普通民眾僅需少量的圖像、視頻、音頻、文本等樣本數(shù)據(jù)，利用簡(jiǎn)便易用的合成工具，就能得到深度合成內(nèi)容。另一方面，深度合成的技術(shù)支持者如何使用訓(xùn)練數(shù)據(jù)、如何設(shè)計(jì)算法機(jī)制機(jī)理、如何開(kāi)發(fā)應(yīng)用可搭載的模型模板工具，都直接對(duì)深度合成服務(wù)的功能應(yīng)用結(jié)果產(chǎn)生影響。因此對(duì)互聯(lián)網(wǎng)信息內(nèi)容的監(jiān)管必須將相關(guān)技術(shù)開(kāi)發(fā)環(huán)節(jié)納入監(jiān)管范疇。

第二，監(jiān)管對(duì)象從服務(wù)提供者擴(kuò)展到技術(shù)支持者與使用者。一是《規(guī)定》將深度合成服務(wù)提供者與技術(shù)支持者并置于監(jiān)管對(duì)象之列。這既要求深度合成服務(wù)提供者履行相關(guān)義務(wù)，也要求深度合成技術(shù)支持者在開(kāi)發(fā)、測(cè)試、訓(xùn)練相關(guān)技術(shù)時(shí)，就考慮到可能的風(fēng)險(xiǎn)與危害，履行相應(yīng)的安全評(píng)估責(zé)任、數(shù)據(jù)安全管理義務(wù)等。二是《規(guī)定》尤其強(qiáng)調(diào)了服務(wù)提供者對(duì)使用者（用戶）的管理與提示義務(wù)。如要求深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示使用者（用戶）依法告知被編輯的個(gè)人并取得其單獨(dú)同意。又如要求服務(wù)提供者履行管理責(zé)任，提示技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)，對(duì)使用者輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，并提示使用者應(yīng)顯著標(biāo)識(shí)。

第三，監(jiān)管時(shí)點(diǎn)從事后追責(zé)前移至技術(shù)開(kāi)發(fā)、應(yīng)用環(huán)節(jié)，實(shí)現(xiàn)問(wèn)責(zé)可追溯。《規(guī)定》要求深度合成服務(wù)生成或者編輯的信息內(nèi)容，必須進(jìn)行隱式或者顯著標(biāo)識(shí)。這從技術(shù)監(jiān)管層面解決了如何對(duì)深度合成信息內(nèi)容進(jìn)行識(shí)別、鑒偽、追蹤的關(guān)鍵問(wèn)題。深度合成服務(wù)提供者需要采用技術(shù)措施，對(duì)深度合成信息內(nèi)容添加隱式標(biāo)識(shí)，可以實(shí)現(xiàn)鑒偽和追蹤的目的；如果達(dá)到了可能引起公眾混淆或者誤認(rèn)的程度，則必須在合理位置區(qū)域打上顯著標(biāo)識(shí)，向公眾提示該信息內(nèi)容是深度合成的。任何組織和個(gè)人不得利用技術(shù)手段刪除、篡改、隱匿深度合成標(biāo)識(shí)。

三、引導(dǎo)深度合成技術(shù)向上向善

技術(shù)原理是中立的，但技術(shù)的應(yīng)用是蘊(yùn)含著價(jià)值取向的?？萍歼M(jìn)步，不僅要挖掘科技力量為人類賦能，更應(yīng)展現(xiàn)出人類駕馭與治理技術(shù)的智慧。深度合成技術(shù)的多樣化應(yīng)用、縱深性發(fā)展為人類生活便利與科技變革提供了巨大的想象空間，《規(guī)定》的出臺(tái)則是我國(guó)推進(jìn)科技倫理進(jìn)步、加強(qiáng)技術(shù)治理、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展、引導(dǎo)技術(shù)向上向善的重要舉措。

深度合成技術(shù)應(yīng)用多樣、領(lǐng)域多元、形態(tài)多變。定制表情、換裝換發(fā)型軟件給廣大用戶的生活帶來(lái)了樂(lè)趣和方便。深度合成技術(shù)向善使用，更可挽回經(jīng)濟(jì)損失，帶給人情感慰藉。如2019年某人工智能實(shí)驗(yàn)室受一位母親所托，將其癌癥離世的女兒做成可以交互的軟件，合成了女兒的語(yǔ)音保存在互動(dòng)終端設(shè)備中。深度合成技術(shù)也代表了未來(lái)人工智能產(chǎn)業(yè)發(fā)展的重要方向，重新定義了虛擬化數(shù)字生存空間。2021年“元宇宙”概念的爆發(fā)，為深度合成技術(shù)提供了更加寬廣的應(yīng)用場(chǎng)景，同時(shí)也促進(jìn)了深度合成技術(shù)的加速發(fā)展。從更廣泛的傳播學(xué)社會(huì)意義上看，一個(gè)新的人類生存場(chǎng)景將以深度合成為基石展開(kāi)?！兑?guī)定》也回應(yīng)了這一人工智能未來(lái)的發(fā)展方向，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場(chǎng)景、沉浸式擬真場(chǎng)景的技術(shù)，是《規(guī)定》規(guī)制的深度合成技術(shù)的重要類別。

由此可見(jiàn)，《規(guī)定》既立足于信息內(nèi)容安全，也順應(yīng)了人工智能技術(shù)未來(lái)發(fā)展趨勢(shì)；既重視事后監(jiān)管，也將監(jiān)管的觸角延伸至數(shù)據(jù)訓(xùn)練、技術(shù)開(kāi)發(fā)等前期時(shí)點(diǎn)?！兑?guī)定》為防范深度合成技術(shù)風(fēng)險(xiǎn)、規(guī)范深度合成服務(wù)、引導(dǎo)深度合成產(chǎn)業(yè)健康持續(xù)有序發(fā)展奠定了堅(jiān)實(shí)基礎(chǔ)。（作者：張凌寒，中國(guó)政法大學(xué)教授）