“虛擬數(shù)字人安全技術(shù)標(biāo)準(zhǔn)”征求意見(jiàn)
虛擬主播走進(jìn)直播間、數(shù)字客服值守政務(wù)大廳……虛擬數(shù)字人正以多元姿態(tài)融入社會(huì)生活的方方面面。近日，北京市地方標(biāo)準(zhǔn)《信息安全虛擬數(shù)字人安全技術(shù)要求（征求意見(jiàn)稿）》，通過(guò)北京市市場(chǎng)監(jiān)管局官方網(wǎng)站向社會(huì)公開(kāi)征求意見(jiàn)。該標(biāo)準(zhǔn)從制作到應(yīng)用、從數(shù)據(jù)到場(chǎng)景，為虛擬數(shù)字人構(gòu)建起全鏈條安全技術(shù)規(guī)范，為快速成長(zhǎng)的虛擬數(shù)字人產(chǎn)業(yè)劃定了安全邊界。該標(biāo)準(zhǔn)由市公安局提出、歸口并組織實(shí)施。核心覆蓋虛擬數(shù)字人制作安全與應(yīng)用安全兩大板塊，覆蓋數(shù)據(jù)、形象、模型、內(nèi)容、系統(tǒng)、場(chǎng)景六個(gè)環(huán)節(jié)。
虛擬數(shù)字人的安全，始于制作環(huán)節(jié)的源頭把控。北京青年報(bào)記者注意到，標(biāo)準(zhǔn)征求意見(jiàn)稿將制作安全細(xì)分為數(shù)據(jù)安全、形象制作安全、模型安全三個(gè)部分，旨在從源頭預(yù)防風(fēng)險(xiǎn)。
在數(shù)據(jù)安全層面，提出虛擬數(shù)字人制作過(guò)程中應(yīng)遵循“最小必要”原則，只采集實(shí)現(xiàn)虛擬數(shù)字人功能所必需的數(shù)據(jù)；采集用戶(hù)面部、聲音、動(dòng)作等生物特征信息時(shí)，需要獲得用戶(hù)的明確同意；數(shù)據(jù)存儲(chǔ)應(yīng)采用加密技術(shù)對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行存儲(chǔ)加密，支持?jǐn)?shù)據(jù)脫敏處理，對(duì)姓名、身份證號(hào)等敏感字段進(jìn)行去標(biāo)識(shí)化或匿名化處理，并建立完善的數(shù)據(jù)備份和恢復(fù)機(jī)制；數(shù)據(jù)標(biāo)注需對(duì)人員進(jìn)行專(zhuān)業(yè)崗前培訓(xùn)，對(duì)每一批標(biāo)注數(shù)據(jù)進(jìn)行人工檢測(cè)；服務(wù)終止后，相關(guān)數(shù)據(jù)須進(jìn)行徹底不可恢復(fù)式刪除并記錄刪除過(guò)程。
形象制作安全聚焦細(xì)節(jié)合規(guī)，要求服飾配飾素材版權(quán)合法、契合倫理規(guī)范；背景場(chǎng)景素材的版權(quán)應(yīng)符合法律法規(guī)的要求，對(duì)場(chǎng)景模型中的紋理貼圖、關(guān)鍵結(jié)構(gòu)等信息進(jìn)行加密存儲(chǔ)和訪問(wèn)控制；支持日志檢索和安全事件回溯。
模型安全貫穿設(shè)計(jì)、訓(xùn)練、部署全周期。設(shè)計(jì)階段要開(kāi)展風(fēng)險(xiǎn)評(píng)估，訓(xùn)練階段要注意防范惡意數(shù)據(jù)污染與對(duì)抗攻擊，部署階段需強(qiáng)化訪問(wèn)控制、漏洞掃描，建立一鍵熔斷或緊急凍結(jié)等應(yīng)急機(jī)制，確保模型安全可控、穩(wěn)定運(yùn)行。
如果說(shuō)制作安全是源頭防護(hù)，應(yīng)用安全則是終端風(fēng)險(xiǎn)防控的關(guān)鍵。標(biāo)準(zhǔn)征求意見(jiàn)稿針對(duì)交互內(nèi)容、系統(tǒng)運(yùn)行、場(chǎng)景適配三大方面提出安全要求。
交互內(nèi)容安全首先要建立完善的內(nèi)容審核機(jī)制，應(yīng)采用技術(shù)手段，過(guò)濾交互內(nèi)容中的虛假新聞、違法不良信息；特別應(yīng)在虛擬數(shù)字人輸出內(nèi)容中添加清晰、明顯的顯式標(biāo)識(shí)，如在文本首尾添加“AI生成”符號(hào)，在視頻開(kāi)場(chǎng)嵌入動(dòng)態(tài)水印，為虛擬主播標(biāo)注“數(shù)字人”身份等，讓用戶(hù)一眼可辨；還應(yīng)在虛擬數(shù)字人輸出內(nèi)容中添加用于內(nèi)容溯源、防偽、版權(quán)保護(hù)的隱式標(biāo)識(shí)，并保證添加的隱式標(biāo)識(shí)在壓縮、裁剪、噪聲干擾后仍能成功提取。
系統(tǒng)安全聚焦運(yùn)行防護(hù)，要求動(dòng)態(tài)生成并校驗(yàn)會(huì)話(huà)ID，防范會(huì)話(huà)劫持攻擊；實(shí)時(shí)監(jiān)測(cè)對(duì)抗樣本攻擊，及時(shí)阻斷風(fēng)險(xiǎn)或降級(jí)服務(wù)，筑牢技術(shù)運(yùn)行防線(xiàn)。
場(chǎng)景安全則適配不同行業(yè)特性，針對(duì)政務(wù)、金融、教育、社交娛樂(lè)、醫(yī)療輔助五大高頻場(chǎng)景量身定制規(guī)范。如：在政務(wù)場(chǎng)景中，政務(wù)數(shù)字人應(yīng)對(duì)政務(wù)審批、行政處罰、資金發(fā)放等高風(fēng)險(xiǎn)事項(xiàng)僅提供咨詢(xún)指導(dǎo)，不應(yīng)做出實(shí)質(zhì)審批；在金融場(chǎng)景中，虛擬數(shù)字人應(yīng)與真實(shí)服務(wù)人員、金融機(jī)構(gòu)唯一綁定，采用多模態(tài)生物特征驗(yàn)證，操作權(quán)限分級(jí)管控，核心權(quán)限雙人復(fù)核；在教育教學(xué)場(chǎng)景中，應(yīng)針對(duì)未成年人使用的虛擬數(shù)字人應(yīng)用設(shè)置未成年人模式，防范不良信息接觸。此外，在社交娛樂(lè)場(chǎng)景中，虛擬數(shù)字人在社交過(guò)程中生成的輸出內(nèi)容應(yīng)經(jīng)過(guò)審核，虛擬數(shù)字人的賬號(hào)應(yīng)進(jìn)行實(shí)名認(rèn)證，防范虛假賬號(hào)、惡意賬號(hào)；在醫(yī)療輔助場(chǎng)景中，應(yīng)將虛擬數(shù)字人身份與醫(yī)療機(jī)構(gòu)、醫(yī)護(hù)人員綁定，操作人員應(yīng)具備相應(yīng)資質(zhì)，采用多因素認(rèn)證，操作日志全程留存，虛擬數(shù)字人輸出的醫(yī)療內(nèi)容應(yīng)經(jīng)過(guò)專(zhuān)業(yè)醫(yī)護(hù)人員審核確認(rèn)等。文/本報(bào)記者王薇
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)