以基礎(chǔ)性立法增強(qiáng)人工智能治理可預(yù)期性
《全球數(shù)字契約》背景下的中國(guó)制度回應(yīng)
□ 馬忠法 徐劭煊
2024年9月,聯(lián)合國(guó)未來(lái)峰會(huì)通過(guò)《全球數(shù)字契約》,將“加強(qiáng)人工智能國(guó)際治理,造福人類”列為五大核心目標(biāo)之一,標(biāo)志著全球人工智能治理進(jìn)入多邊協(xié)同共治的新階段。該契約將數(shù)字技術(shù)的治理問(wèn)題正式納入聯(lián)合國(guó)全球合作議題框架,倡導(dǎo)采取平衡、包容和基于風(fēng)險(xiǎn)的方法治理人工智能,推動(dòng)建立聯(lián)合國(guó)人工智能獨(dú)立國(guó)際科學(xué)小組和全球治理對(duì)話機(jī)制。這一趨勢(shì)促使各參與國(guó)在數(shù)字空間內(nèi)建立有效的權(quán)利保護(hù)機(jī)制與數(shù)據(jù)處理秩序,也意味著人工智能治理的國(guó)內(nèi)規(guī)范與國(guó)際規(guī)則相互影響已成為必然。
面對(duì)這一國(guó)際趨勢(shì),中國(guó)人工智能治理雖已初步形成多層次規(guī)范體系,但在基礎(chǔ)性立法供給、規(guī)則協(xié)同性、國(guó)際銜接度等方面仍有待完善。筆者以《全球數(shù)字契約》為分析背景,論證通過(guò)基礎(chǔ)性立法,特別是加快制定統(tǒng)一的人工智能基礎(chǔ)性法律,增強(qiáng)人工智能治理可預(yù)期性的法理邏輯,并提出中國(guó)制度回應(yīng)的具體路徑。
從專項(xiàng)規(guī)制邁向基礎(chǔ)立法的規(guī)范升級(jí)
基于人工智能技術(shù)產(chǎn)品在研發(fā)、部署與服務(wù)環(huán)節(jié)的跨國(guó)界屬性,其模型訓(xùn)練和應(yīng)用接入通常涉及不同法域的管轄。國(guó)內(nèi)法律規(guī)則如果缺乏清晰的文本表達(dá)和穩(wěn)定的制度邏輯,企業(yè)在參與國(guó)際市場(chǎng)競(jìng)爭(zhēng)與合作時(shí)將面臨顯著的合規(guī)判斷困難;同時(shí),我國(guó)監(jiān)管機(jī)關(guān)在參與雙邊或多邊國(guó)際交流時(shí),也需要以正式的國(guó)內(nèi)法律作為磋商的基礎(chǔ)文本。因此,我國(guó)人工智能領(lǐng)域的立法規(guī)劃應(yīng)當(dāng)兼顧國(guó)內(nèi)社會(huì)治理的實(shí)際需要和參與國(guó)際規(guī)則協(xié)調(diào)的溝通需求,以明確、層級(jí)較高的法律形式說(shuō)明我國(guó)的技術(shù)治理目標(biāo)、監(jiān)管原則以及具體的實(shí)施方式,進(jìn)而解決體系碎片化、前瞻性與靈活性不足、核心規(guī)則界定模糊與責(zé)任劃分不清以及與國(guó)際規(guī)則銜接度不充分等問(wèn)題。
我國(guó)在人工智能治理領(lǐng)域已開(kāi)展先期探索并形成若干專項(xiàng)規(guī)范。針對(duì)算法推薦、深度合成以及生成式人工智能服務(wù)等具體應(yīng)用場(chǎng)景,監(jiān)管部門(mén)相繼出臺(tái)專門(mén)的管理規(guī)定。這類部門(mén)規(guī)章層級(jí)的規(guī)范體現(xiàn)出敏捷的制度響應(yīng)能力,有效規(guī)制了已經(jīng)顯現(xiàn)的技術(shù)風(fēng)險(xiǎn)。伴隨人工智能作為通用目的技術(shù)深度嵌入各類傳統(tǒng)行業(yè),分散的規(guī)章逐漸顯露出規(guī)則層級(jí)偏低、制度銜接不暢的局限性。規(guī)范適用層面的不確定狀態(tài),導(dǎo)致市場(chǎng)主體難以據(jù)此形成穩(wěn)定的長(zhǎng)期經(jīng)營(yíng)預(yù)期。
制定人工智能基礎(chǔ)性法律的核心價(jià)值,在于依托國(guó)家立法程序確立該領(lǐng)域的總體治理原則與基本監(jiān)管結(jié)構(gòu)?;A(chǔ)性法律能夠?yàn)橄绕诎l(fā)布的分散規(guī)則提供統(tǒng)一的上位法依據(jù),在消除不同位階規(guī)范適用沖突的基礎(chǔ)上,推動(dòng)行業(yè)合規(guī)體系由初期的零散探索走向成體系的法治化建構(gòu)。
匹配技術(shù)演進(jìn)特征的立法技術(shù)選擇
在推進(jìn)基礎(chǔ)性法律的制定過(guò)程中,立法機(jī)關(guān)應(yīng)采取“宏觀結(jié)構(gòu)與微觀規(guī)范相分離”的立法技術(shù)。究其原因,人工智能技術(shù)的迭代周期極短,模型的參數(shù)規(guī)模、算法架構(gòu)和應(yīng)用形態(tài)始終處于持續(xù)演進(jìn)狀態(tài)。倘若將所有的技術(shù)測(cè)試細(xì)節(jié)與參數(shù)標(biāo)準(zhǔn)直接寫(xiě)入同一部法律文本,勢(shì)必導(dǎo)致法律規(guī)定在頒布后迅速脫離技術(shù)實(shí)際。因此,基礎(chǔ)性法律的文本應(yīng)當(dāng)剝離技術(shù)細(xì)節(jié),專司規(guī)定具有長(zhǎng)期穩(wěn)定性的事項(xiàng)。具體而言,人工智能治理的基本原則、相關(guān)主體的權(quán)利義務(wù)邊界以及監(jiān)管機(jī)關(guān)的法定職權(quán),應(yīng)當(dāng)由該基礎(chǔ)性法律直接予以確認(rèn)。
與之相對(duì),對(duì)于更新頻率較高的技術(shù)指標(biāo)、安全測(cè)試要求和備案程序等微觀細(xì)節(jié),則宜采用授權(quán)立法的模式,交由下位法、配套部門(mén)規(guī)章或國(guó)家標(biāo)準(zhǔn)作出及時(shí)調(diào)整。在此基礎(chǔ)上,針對(duì)風(fēng)險(xiǎn)程度較高的特定應(yīng)用場(chǎng)景,法律可進(jìn)一步授權(quán)統(tǒng)籌管理部門(mén)編制“高風(fēng)險(xiǎn)應(yīng)用目錄”,并建立定期評(píng)估與動(dòng)態(tài)調(diào)整機(jī)制。為確保該機(jī)制的正當(dāng)性與合理性,目錄的編制與調(diào)整程序應(yīng)當(dāng)內(nèi)置意見(jiàn)征求環(huán)節(jié)以保障行業(yè)主體的知情權(quán),且監(jiān)管部門(mén)在調(diào)整目錄時(shí)必須詳盡說(shuō)明基于風(fēng)險(xiǎn)變化的調(diào)整理由。
因此,這種“法律設(shè)定框架、目錄動(dòng)態(tài)管理、標(biāo)準(zhǔn)提供支撐”的層級(jí)制度設(shè)計(jì),既有效維護(hù)了法律體系的穩(wěn)定性,又從根本上克服了成文法面對(duì)技術(shù)快速變化時(shí)固有的滯后缺陷。
權(quán)利保障機(jī)制與公共管理的法律約束
人工智能治理體系的設(shè)計(jì)必須妥善處理個(gè)人權(quán)利保護(hù)與產(chǎn)業(yè)技術(shù)創(chuàng)新的交互關(guān)系?!度驍?shù)字契約》中提出的以人為本的數(shù)字治理理念,在人工智能領(lǐng)域具體轉(zhuǎn)化為對(duì)自動(dòng)化決策過(guò)程和個(gè)人信息處理活動(dòng)的嚴(yán)格規(guī)范。
我國(guó)的立法方案可以設(shè)定高影響人工智能應(yīng)用的說(shuō)明義務(wù)。當(dāng)人工智能系統(tǒng)作出對(duì)個(gè)人權(quán)益產(chǎn)生重大影響的決定時(shí),系統(tǒng)提供者應(yīng)當(dāng)向個(gè)人說(shuō)明該決定的基本邏輯,并設(shè)置由人工介入的復(fù)核與申訴渠道,防止個(gè)人權(quán)利被算法系統(tǒng)完全剝奪。在涉及個(gè)人信息處理的環(huán)節(jié),算法模型的訓(xùn)練數(shù)據(jù)收集與使用必須堅(jiān)持必要限度和目的相關(guān)原則,限制超范圍的數(shù)據(jù)抓取行為。對(duì)于公共管理領(lǐng)域引入人工智能技術(shù)的活動(dòng),法律應(yīng)當(dāng)設(shè)定更為嚴(yán)格的程序約束條件。行政機(jī)關(guān)使用自動(dòng)化技術(shù)輔助作出行政行為時(shí),必須確保技術(shù)應(yīng)用不改變行政法上的職權(quán)法定原則和正當(dāng)程序要求。公權(quán)力機(jī)關(guān)不得將核心的裁量權(quán)完全交由人工智能系統(tǒng)行使,確保技術(shù)應(yīng)用活動(dòng)處于行政監(jiān)督與司法審查的覆蓋范圍之內(nèi)。這些制度安排能夠?qū)⒊橄蟮目萍枷蛏评砟钷D(zhuǎn)化為具有可執(zhí)行性的法律權(quán)利保護(hù)規(guī)范。
協(xié)同監(jiān)管體制與合規(guī)成本的制度控制
監(jiān)管結(jié)構(gòu)的科學(xué)性直接決定了立法的實(shí)施效果。人工智能的治理客體涉及算法安全、數(shù)據(jù)保護(hù)、網(wǎng)絡(luò)運(yùn)行和行業(yè)倫理等多個(gè)維度,現(xiàn)行監(jiān)管權(quán)限分布在網(wǎng)信、工信、公安以及相關(guān)行業(yè)主管部門(mén)等多個(gè)機(jī)構(gòu)?;A(chǔ)性法律應(yīng)當(dāng)在國(guó)家層面明確建立跨部門(mén)的協(xié)調(diào)機(jī)制。該機(jī)制的主要功能是整合監(jiān)管資源,避免不同部門(mén)針對(duì)同一技術(shù)事項(xiàng)設(shè)置重復(fù)的材料報(bào)送義務(wù)和多頭檢查。對(duì)于人工智能企業(yè)而言,合規(guī)義務(wù)的清單越清晰、主管機(jī)關(guān)的判定越明確,其在技術(shù)研發(fā)和商業(yè)轉(zhuǎn)化上的資金與人力投入越容易進(jìn)行長(zhǎng)期規(guī)劃。對(duì)于參與執(zhí)法的行政機(jī)關(guān)而言,各自的法定職責(zé)界限越清晰,執(zhí)法的尺度越容易保持一致。在具體的監(jiān)管工具選擇上,合規(guī)評(píng)估報(bào)告和開(kāi)發(fā)運(yùn)行記錄保存應(yīng)當(dāng)作為基礎(chǔ)性的重點(diǎn)制度予以確立。這兩種制度安排能夠幫助監(jiān)管機(jī)關(guān)在事中和事后階段客觀了解系統(tǒng)運(yùn)行狀況,同時(shí)通過(guò)程序設(shè)定義務(wù),促使企業(yè)在模型設(shè)計(jì)和訓(xùn)練的早期階段主動(dòng)將法律約束條件納入產(chǎn)品架構(gòu)。
跨境規(guī)制與國(guó)家安全的法治化統(tǒng)籌
在國(guó)際秩序?qū)用妫晟频幕A(chǔ)性法律具有重要的規(guī)則表達(dá)與立場(chǎng)展示功能。當(dāng)前,全球主要法域?qū)θ斯ぶ悄艿囊?guī)制模式存在差異。我國(guó)在立法時(shí),應(yīng)當(dāng)以本國(guó)的數(shù)字產(chǎn)業(yè)發(fā)展階段和現(xiàn)有的互聯(lián)網(wǎng)治理經(jīng)驗(yàn)為事實(shí)根據(jù),將技術(shù)發(fā)展中形成的關(guān)于算法備案、安全評(píng)估機(jī)制和數(shù)字權(quán)利救濟(jì)的制度經(jīng)驗(yàn)上升為法律文本,可以降低國(guó)際社會(huì)對(duì)我國(guó)監(jiān)管政策的誤解風(fēng)險(xiǎn),為我國(guó)科技企業(yè)在海外開(kāi)展業(yè)務(wù)提供國(guó)內(nèi)法層面的支持。
強(qiáng)調(diào)規(guī)則的國(guó)際可溝通性完全不意味著降低國(guó)家安全管理標(biāo)準(zhǔn)。在涉及敏感數(shù)據(jù)跨境流轉(zhuǎn)和大型模型跨境提供服務(wù)等環(huán)節(jié)中,國(guó)家安全評(píng)估程序具有不可替代的必要性。立法完善的關(guān)鍵在于提升安全審查程序的法定性與審查要素的透明度,使審查對(duì)象能夠根據(jù)明確的指標(biāo)開(kāi)展自我評(píng)估,并使最終的審查結(jié)果具備可解釋的理由。對(duì)于風(fēng)險(xiǎn)等級(jí)較低的一般性技術(shù)活動(dòng),立法可以通過(guò)設(shè)定備案登記和推廣標(biāo)準(zhǔn)合同范本等方式,實(shí)質(zhì)性降低市場(chǎng)主體的準(zhǔn)入與運(yùn)行成本。對(duì)于可能影響國(guó)家安全的特定技術(shù)活動(dòng),則依法適用更為嚴(yán)格的準(zhǔn)入要求。通過(guò)這種基于客觀風(fēng)險(xiǎn)分級(jí)的差異化治理模式,能夠提升規(guī)則執(zhí)行的一致性和穩(wěn)定性。
總體而言,我國(guó)人工智能立法的核心任務(wù),在于將前期分散的部門(mén)治理經(jīng)驗(yàn)轉(zhuǎn)化為統(tǒng)一、清晰的法律規(guī)范體系。面對(duì)《全球數(shù)字契約》推動(dòng)下逐步形成的數(shù)字空間國(guó)際討論環(huán)境,我國(guó)應(yīng)當(dāng)加快基礎(chǔ)性法律的制定進(jìn)程,增強(qiáng)國(guó)家治理體系在國(guó)際規(guī)則層面的制度表達(dá)能力。以法律框定基本原則、以配套規(guī)范維持技術(shù)調(diào)整彈性,這種立法布局能夠在防范技術(shù)不可控風(fēng)險(xiǎn)、保障技術(shù)產(chǎn)業(yè)持續(xù)發(fā)展的前提下,切實(shí)提升我國(guó)深度參與全球數(shù)字治理體系的法治能力。
(作者單位:復(fù)旦大學(xué)法學(xué)院)
編輯:遲明緒




京公網(wǎng)安備 11010502000576號(hào)