得益于人工智能技術的不斷發(fā)展與開放，深度合成技術已經(jīng)廣泛應用于文本、圖像、音頻、視頻、虛擬場景等數(shù)字內(nèi)容的生成生產(chǎn)，在影視、傳媒、教育等領域?qū)崿F(xiàn)大規(guī)模應用。值得注意的是，利用深度合成技術制作、復制、發(fā)布、傳播違法和不良信息，仿冒他人身份實施詐騙、勒索等違法行為也層出不窮。因此，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》（以下簡稱《規(guī)定》）恰逢其時，為規(guī)范深度合成技術應用提出了科學化、精細化、體系化的治理方案，有效統(tǒng)籌深度合成技術應用的安全與發(fā)展，促進深度合成技術的依法合理利用。

一、堅持引導科技向上向善，多元共建網(wǎng)絡空間良好生態(tài)

首先，堅持主流價值導向，引導科技向上向善。《規(guī)定》以我國主流價值觀為引領，維護人民合法權益，促進科技發(fā)展向上向善。一是堅持主流價值導向，科學管理新技術新應用。習近平總書記強調(diào)用主流價值導向駕馭“算法”，全面提升輿論引導能力?！兑?guī)定》堅持正確政治方向、輿論導向、價值取向，通過加強針對深度合成技術應用的科學管理，確保深度合成服務向上向善。二是回應社會關切，營造天朗氣清的網(wǎng)絡空間?！兑?guī)定》劃定了深度合成技術應用的“底線”和“紅線”，維護國家安全、社會穩(wěn)定，以及人民群眾的切身利益。三是鼓勵行業(yè)自律，引導科技向上向善良性發(fā)展?！兑?guī)定》遵循數(shù)字經(jīng)濟領域新技術新應用監(jiān)管治理的整體脈絡，沿用行業(yè)標準、行業(yè)準則等行業(yè)自律方式，促進企業(yè)依法合理利用深度合成技術及服務。

其次，細分多元主體責任，全面構(gòu)建治理體系。《規(guī)定》構(gòu)建了圍繞“深度合成技術支持者”和“深度合成服務提供者”的責任框架，針對其他相關主體也作出了規(guī)范。技術支持者應從源頭深化技術治理，加強數(shù)據(jù)和技術管理，同時參照相關規(guī)定履行算法備案等手續(xù)。服務提供者應全方位落實信息安全主體責任，強化針對服務、用戶、數(shù)據(jù)、技術以及內(nèi)容等方面的管理措施，實施安全可控的技術保障措施。在其他主體要求方面，服務使用者應承擔信息安全義務，不得利用深度合成服務從事違法違規(guī)活動；互聯(lián)網(wǎng)應用商店等平臺應落實上架審核、日常管理、應急處置等安全管理的平臺責任，為深度合成技術的安全合理應用搭建保護屏障。

最后，配套相關法律法規(guī)，深化網(wǎng)絡管理要求。《規(guī)定》是我國互聯(lián)網(wǎng)法治建設進程中的重要一步，既與多部上位法一脈相承，又與互聯(lián)網(wǎng)信息服務相關法規(guī)有效銜接，還為以深度合成為代表的新技術新應用構(gòu)建了安全與發(fā)展并重的科學管理體系。一方面，《規(guī)定》全面貫徹落實《網(wǎng)絡安全法》、《數(shù)據(jù)安全法》、《個人信息保護法》等上位法的具體要求。例如，《規(guī)定》強調(diào)了深度合成服務提供者和技術支持者采取必要措施保障數(shù)據(jù)安全的要求，遵循了敏感個人信息處理中的單獨同意原則。另一方面，《規(guī)定》能夠與《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》、《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》、《網(wǎng)絡音視頻信息服務管理規(guī)定》等互聯(lián)網(wǎng)信息服務相關法律法規(guī)有效銜接，便于配套實施。《規(guī)定》在已有規(guī)定的基礎上，細化了深度合成技術的應用場景，明確了深度合成技術支持者和服務提供者履行信息安全義務的要求，是互聯(lián)網(wǎng)信息服務管理體系的有效延展補充。

二、科學構(gòu)建技術治理體系，促進深度合成依法合理、有效應用

首先，明確全流程多節(jié)點信息安全要求。《規(guī)定》細化了深度合成技術支持、服務提供、服務上架等多個流程節(jié)點相關主體的具體要求，建立了事前、事中、事后的信息安全管理措施。部署前，深度合成技術支持者和服務提供者應依據(jù)《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》要求，在具備輿論屬性或者社會動員能力屬性時，積極履行相關備案手續(xù)。服務中，深度合成技術支持者和服務提供者應加強數(shù)據(jù)安全和個人信息保護，定期對算法機制機理開展評估。在提供人臉、人聲等生物識別信息編輯功能時，應重點履行對服務使用者合法處理敏感個人信息的提示性義務，并對此功能開展安全評估，預防信息安全風險。此外，服務提供者還應全面履行包括公開管理規(guī)則、開展身份認證、審核信息發(fā)布在內(nèi)的平臺責任。上架后，技術支持者和服務提供者仍有義務對算法機制機理施行動態(tài)評估，服務提供者應添加標識標明其應用使用了深度合成技術，互聯(lián)網(wǎng)應用商店等平臺還應加強核驗監(jiān)督等安全管理責任落實。

其次，創(chuàng)新信息內(nèi)容標識技術管理制度。《規(guī)定》綜合應用技管結(jié)合的方式實現(xiàn)了治理創(chuàng)新，通過要求深度合成服務提供者對深度合成信息內(nèi)容進行標識的方式，保障了公眾的知情權，確保了服務的可追溯。一是應用顯著標識避免公眾的混淆和誤認。《規(guī)定》明確深度合成服務提供者應當使用顯著方式對深度合成信息內(nèi)容進行標識，有效提示合成情況。具體落實時，深度合成服務提供者可以根據(jù)各類應用場景和潛在風險，通過文字、語音片段和電子圖形標志等方式進行顯著標識。此外，《規(guī)定》通過強調(diào)主體責任保障標識的真實性和唯一性，明確提出任何組織和個人不得采用技術手段刪除、篡改或隱匿標識。二是通過標識實現(xiàn)深度合成信息內(nèi)容可追溯。《規(guī)定》明確提出深度合成服務提供者應在信息內(nèi)容中添加不影響用戶使用的標識并保存相關日志信息。落實相關要求時，深度合成服務提供者可以在信息內(nèi)容中添加使用特定工具或方法才能提取的隱性數(shù)字水印標識，確保發(fā)布或傳播的深度合成信息內(nèi)容可追溯。

最后，強調(diào)真實身份信息認證管理要求。《規(guī)定》明確了實行真實身份信息認證管理的多種方案，能夠在管理深度合成信息內(nèi)容的同時推進用戶個人信息保護。一方面，《規(guī)定》強調(diào)設置門檻加強用戶管理。《規(guī)定》要求深度合成服務提供者應嚴格落實對服務使用者進行真實身份信息認證的主體責任，有利于對深度合成的違法和不良信息內(nèi)容發(fā)布及傳播者進行追責，同時也為陷入網(wǎng)絡民事糾紛的相關主體提供了追溯渠道。另一方面，《規(guī)定》保障身份認證方式的多樣性?！兑?guī)定》明確了真實身份信息認證包括基于移動電話號碼、身份證件號碼、統(tǒng)一社會信用代碼或者國家網(wǎng)絡身份認證公共服務等多種方式?！兑?guī)定》在保障通過多種方式認證深度合成服務使用者身份的同時，能夠推進電子身份認證技術的發(fā)展，有利于從源頭上減少個人信息濫采濫用等問題。

三、加強技術支撐治理能力，保障新技術新應用有序健康發(fā)展

《規(guī)定》具有一定的探索性和前瞻性，是進一步提升網(wǎng)絡治理能力的應時應勢之舉，但深度合成技術應用治理目前尚處于起步階段，在技術支撐和管理體系建設方面有待進一步加強。下一步可開展以下措施：

一是加強《規(guī)定》宣傳貫徹培訓，盡快落實檢查評估機制。加強《規(guī)定》的宣傳推廣和培訓教育，督促深度合成技術支持者和服務提供者等主體開展算法安全評估；強化檢查評估能力，有序推進深度合成技術應用的安全檢查，敦促深度合成技術支持者和服務提供者及時發(fā)現(xiàn)和整改相關問題。

二是推進技術產(chǎn)業(yè)自律自治，加速技術應用標準化工作推進。加快推進深度合成相關技術標準、安全評估標準等的研究制定工作，進一步發(fā)揮標準對技術應用規(guī)范、安全能力建設等工作的支撐作用。結(jié)合我國深度合成技術應用情況，分析各類深度合成信息內(nèi)容在不同場景下的安全風險程度，形成符合我國實際情況的深度合成信息服務分級分類方法。

三是加強標識體系建設，全面提升深度合成信息內(nèi)容監(jiān)管能力。依據(jù)《規(guī)定》相關要求，研究制定面向深度合成信息服務的標識體系，進一步明確標識范圍，加強標識的管理機制。通過行業(yè)自律的方式組織相關企業(yè)開展落地實踐工作，逐步引導形成先標識核驗再上線的服務機制，壓實企業(yè)主體責任，防范安全風險隱患。（作者：何寶宏，中國信息通信研究院云計算與大數(shù)據(jù)研究所所長）