□ 曹建峰

隨著數(shù)字化、網(wǎng)絡(luò)化、智能化深入發(fā)展，我國數(shù)字經(jīng)濟(jì)和前沿科技產(chǎn)業(yè)的健康、可持續(xù)發(fā)展越來越離不開科技倫理的保障。以人工智能領(lǐng)域為例，隨著大模型能力的持續(xù)提升及其應(yīng)用領(lǐng)域的持續(xù)拓展，人工智能持續(xù)為經(jīng)濟(jì)增長、社會治理、可持續(xù)發(fā)展等釋放出巨大價值。但與此同時，人工智能在隱私保護(hù)、社會公平、信息信任、法律責(zé)任、勞動就業(yè)、倫理道德、安全可控等方面帶來了新的挑戰(zhàn)。這給加強科技倫理建設(shè)、落實科技倫理治理提出更高要求。

科技行業(yè)的“必選項”和“必答題”

2017年以來，國家持續(xù)加強科技倫理頂層設(shè)計，成立了國家科技倫理委員會，明確科技倫理是科技活動必須遵守的價值準(zhǔn)則；將“健全科技倫理治理體制”“健全科技倫理體系”分別寫入黨的十九屆四中全會《決定》和《中共中央關(guān)于制定國民經(jīng)濟(jì)和社會發(fā)展第十四個五年規(guī)劃和二〇三五年遠(yuǎn)景目標(biāo)的建議》；修訂科學(xué)技術(shù)進(jìn)步法，提出科技倫理管理主體責(zé)任、科技倫理審查機(jī)制等要求。

針對科技倫理問題較為突出的人工智能與算法領(lǐng)域，國家新一代人工智能治理專業(yè)委員會先后發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》和《新一代人工智能倫理規(guī)范》，為各界開展人工智能活動提供倫理指引。網(wǎng)信辦等國家部委聯(lián)合發(fā)布了《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，明確要求強化科技倫理意識，建立科技倫理審查等方面的管理制度和技術(shù)措施。

在這些工作的基礎(chǔ)上，2022年3月，中辦、國辦印發(fā)《關(guān)于加強科技倫理治理的意見》（以下簡稱《意見》），國家對加強科技倫理治理作出全面部署。表明國家對科技倫理治理高度重視，將其作為科技創(chuàng)新的重要支撐?？梢哉f，國家科技戰(zhàn)略規(guī)劃已經(jīng)邁上科技創(chuàng)新與科技倫理并重的新臺階。隨著全球科技競爭日益激化，科技倫理治理不僅事關(guān)社會倫理風(fēng)險防范，而且事關(guān)國家科技競爭力。所以《意見》明確要求加強科技倫理治理，將科技倫理作為開展科學(xué)研究、技術(shù)開發(fā)等科技活動的價值理念和行為規(guī)范，防控科技倫理風(fēng)險，推動科技向善，實現(xiàn)科技自立自強。

除了科學(xué)研究活動，《意見》還把由行業(yè)和企業(yè)主導(dǎo)的技術(shù)開發(fā)活動納入了規(guī)制范圍，表明科技倫理日益成為科技行業(yè)的“必選項”和“必答題”?？萍计髽I(yè)等創(chuàng)新主體需履行科技倫理管理主體責(zé)任，堅持科技倫理底線，建立倫理審查評估、風(fēng)險監(jiān)測預(yù)警等機(jī)制，并對科技人員開展理論培訓(xùn)等。2023年9月，科技部等印發(fā)《科技倫理審查辦法（試行）》，推動科技倫理治理從抽象原則轉(zhuǎn)向具體的倫理審查制度。該辦法對倫理委員會、倫理審查程序作出了具體規(guī)定，為相關(guān)行業(yè)領(lǐng)域推進(jìn)科技倫理審查奠定了規(guī)范基礎(chǔ)。其中，人工智能、生命科學(xué)、醫(yī)學(xué)是科技倫理治理的三個重要領(lǐng)域，相關(guān)行業(yè)主管部門積極探索科技倫理監(jiān)管舉措。

推動人工智能領(lǐng)域科技倫理落地

在上述制度基礎(chǔ)上，2026年4月，工業(yè)和信息化部等十部門聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡稱《辦法》），標(biāo)志著人工智能倫理治理實現(xiàn)了從原則倡導(dǎo)、行業(yè)自律向制度化、程序化的轉(zhuǎn)變?！掇k法》旨在以科技倫理管理與服務(wù)支持促進(jìn)人工智能創(chuàng)新，為人工智能創(chuàng)新保駕護(hù)航。

《辦法》明確，開展人工智能科技活動應(yīng)將科技倫理要求貫穿全過程，遵循增進(jìn)人類福祉、尊重生命權(quán)利、堅持公平公正、合理控制風(fēng)險、保持公開透明、保護(hù)隱私安全、確?？煽乜尚牌唔梻惱碓瓌t。在審查重點上，《辦法》從人類福祉、公平公正、透明可解釋、可控可信、責(zé)任可追溯、隱私保護(hù)等多個方面提出具體要求。在實施機(jī)制上，《辦法》構(gòu)建了多層次的審查體系。高校、科研機(jī)構(gòu)、企業(yè)等須按規(guī)定設(shè)立人工智能科技倫理委員會，將倫理要求嵌入研發(fā)、測試、應(yīng)用、迭代全流程；《辦法》鼓勵地方建立專業(yè)化的倫理審查與服務(wù)中心，面向社會提供審查、復(fù)核、培訓(xùn)、咨詢等第三方服務(wù)，破解基層單位“不會審、審不了”的現(xiàn)實難題?！掇k法》還專設(shè)“服務(wù)與促進(jìn)”章節(jié)，圍繞標(biāo)準(zhǔn)建設(shè)、服務(wù)體系、鼓勵創(chuàng)新、宣傳教育、人才培養(yǎng)五方面制定支持舉措，幫助企業(yè)尤其是中小微企業(yè)提升科技倫理風(fēng)險防控能力，降低合規(guī)成本。在具體流程上，《辦法》規(guī)定了一般、簡易、應(yīng)急、專業(yè)復(fù)核等不同審查程序，確保人工智能科技倫理審查具有較高的靈活性。

從原則共識走向?qū)嵺`的四點思考

《辦法》的出臺為人工智能倫理治理提供了制度框架。筆者認(rèn)為，從制度到實踐，仍有較大空間需要探索。

第一，將價值對齊納入人工智能科技倫理治理的核心議程。隨著大模型能力的飛速提升，確保人工智能系統(tǒng)的行為與人類價值觀保持一致——即價值對齊——已成為全球人工智能治理的前沿議題。《辦法》提出的增進(jìn)人類福祉、公平公正、可控可信等原則，本質(zhì)上都指向價值對齊的要求。未來應(yīng)推動將價值對齊從技術(shù)研究層面提升為倫理治理的制度性要求，探索建立大模型價值對齊的評估標(biāo)準(zhǔn)和測試基準(zhǔn)，使抽象的倫理原則轉(zhuǎn)化為可衡量、可審查的技術(shù)指標(biāo)。

第二，推動倫理嵌入設(shè)計，實現(xiàn)倫理治理的前置化。傳統(tǒng)的倫理審查往往發(fā)生在技術(shù)開發(fā)完成之后，屬于事后把關(guān)。而更為有效的路徑是將倫理要求嵌入人工智能系統(tǒng)的設(shè)計、開發(fā)全流程，實現(xiàn)“倫理嵌入設(shè)計”。這意味著在數(shù)據(jù)采集、模型訓(xùn)練、系統(tǒng)部署的每一個環(huán)節(jié)都應(yīng)考慮公平性、透明性、隱私保護(hù)等要求，而非在產(chǎn)品成型后再做合規(guī)審查?！掇k法》要求將科技倫理貫穿全過程，為倫理嵌入設(shè)計提供了制度依據(jù)，但仍需配套開發(fā)實用的倫理風(fēng)險評估工具和技術(shù)解決方案，幫助開發(fā)者將倫理原則落實到具體的技術(shù)設(shè)計中。與此相關(guān)，還應(yīng)借鑒“嵌入式倫理”的理念，在人工智能設(shè)計開發(fā)團(tuán)隊中直接融入倫理學(xué)、法學(xué)、社會學(xué)等領(lǐng)域的專家，使倫理審視成為技術(shù)研發(fā)的日常實踐而非外部檢查，從而真正實現(xiàn)對倫理風(fēng)險的全過程關(guān)注。

第三，構(gòu)建適應(yīng)性治理框架，平衡創(chuàng)新激勵與風(fēng)險防范。隨著人工智能技術(shù)的不斷發(fā)展，針對人工智能的任何監(jiān)管和治理舉措都必須保持輕量化和靈活性，避免過于繁瑣，以免阻礙人工智能創(chuàng)新或延緩人們實現(xiàn)人工智能益處的進(jìn)程。平衡發(fā)展與治理的關(guān)鍵在于構(gòu)建適應(yīng)性治理框架，在促進(jìn)創(chuàng)新與防范風(fēng)險之間找到平衡點。為此，未來的人工智能倫理治理應(yīng)保持適度的靈活性和適應(yīng)性，根據(jù)技術(shù)發(fā)展動態(tài)調(diào)整審查重點和方式。當(dāng)然，鑒于技術(shù)變化的速度，各類評估方法很快就會過時，因此科技倫理治理應(yīng)避免過于僵硬的要求和標(biāo)準(zhǔn)，否則可能適得其反，對人工智能發(fā)展和應(yīng)用都不利。

第四，將人工智能愿景納入人工智能科技倫理治理，積極思考人工智能如何造福人類的愿景和路線圖。人工智能愿景是人工智能治理的重要組成部分，社會在構(gòu)建治理和安全機(jī)制的同時需要描繪人工智能造福人類的未來圖景。為此，未來的人工智能科技倫理治理不應(yīng)僅圍繞風(fēng)險展開，還必須包含對積極未來的想象與規(guī)劃，清晰描繪人工智能造福人類的未來圖景。倘若缺乏明確而有力的正向愿景，社會將難以凝聚共識去應(yīng)對技術(shù)帶來的挑戰(zhàn)。因此，除了識別和應(yīng)對風(fēng)險，更重要的是描繪一個值得人類共同努力實現(xiàn)的未來圖景。

總之，需要在全社會塑造科技向善的文化理念，通過必要的制度和機(jī)制讓科技倫理發(fā)揮好對人工智能等前沿科技產(chǎn)業(yè)“安全帶”和“加速器”的雙重價值，讓科技更好增進(jìn)人類福祉。只有堅持以人為本、智能為人的發(fā)展理念，構(gòu)建完善的治理體系，培育向善的文化氛圍，我們才能在享受人工智能技術(shù)帶來便利的同時，有效防范和化解潛在風(fēng)險，真正實現(xiàn)技術(shù)與人類社會的和諧發(fā)展。

（作者系深圳大學(xué)法學(xué)院副教授）