核心閱讀

國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部將會同有關(guān)方面切實推進(jìn)《智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展實施意見》落地見效。聚焦智能體技術(shù)研發(fā)、場景開放、安全治理等關(guān)鍵環(huán)節(jié)，完善配套政策，形成工作合力，推動重點任務(wù)落實落地。

□ 熱點關(guān)注

□ 本報記者 劉欣

智能體是具備自主感知、記憶、決策、交互與執(zhí)行能力的智能系統(tǒng)，是人工智能產(chǎn)品及服務(wù)的重要形態(tài)。隨著大模型等新一代人工智能技術(shù)迅猛發(fā)展，智能體正加速與網(wǎng)絡(luò)空間、物理世界深度融合，深刻改變?nèi)祟惿a(chǎn)生活方式和社會治理模式。

為落實《國務(wù)院關(guān)于深入實施“人工智能+”行動的意見》，促進(jìn)智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展，近日，國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部聯(lián)合印發(fā)《智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展實施意見》（以下簡稱《實施意見》）。

構(gòu)建發(fā)展與安全協(xié)同促進(jìn)格局

近年來，以手機助手、終端智能管家、云端智能體等為代表的智能體產(chǎn)品加速涌現(xiàn)，呈現(xiàn)規(guī)?；瘧?yīng)用態(tài)勢，極大便利人們工作生活。同時，智能體高自主性、高權(quán)限等特性也帶來了隱私泄露、越權(quán)操作、行為失控等安全風(fēng)險，需要統(tǒng)籌發(fā)展和安全，促進(jìn)智能體規(guī)范應(yīng)用和創(chuàng)新發(fā)展。

國家網(wǎng)信辦有關(guān)負(fù)責(zé)人介紹，在制定《實施意見》過程中，重點把握四個方面：一是強化思想引領(lǐng)。深入實施“人工智能+”行動，推動智能體高質(zhì)量發(fā)展。二是統(tǒng)籌發(fā)展和安全。遵循技術(shù)發(fā)展客觀規(guī)律，夯實產(chǎn)業(yè)技術(shù)底座，完善治理體系，積極穩(wěn)妥推動智能體規(guī)范應(yīng)用，構(gòu)建發(fā)展與安全協(xié)同促進(jìn)的格局。三是堅持應(yīng)用牽引。深入挖掘典型應(yīng)用場景，推動形成以創(chuàng)新帶應(yīng)用、以應(yīng)用促創(chuàng)新的良性循環(huán)，促進(jìn)智能體賦能千行百業(yè)。四是守牢安全底線。堅持以人為本、智能向善、多元共治、安全穩(wěn)妥，明確將安全、可靠、可信作為智能體產(chǎn)業(yè)發(fā)展底線要求，將安全可控貫穿智能體技術(shù)研發(fā)、應(yīng)用部署與產(chǎn)品推廣全過程。

《實施意見》為我國智能體產(chǎn)業(yè)的健康發(fā)展繪制了清晰的路線圖。中國信息通信研究院院長余曉暉認(rèn)為，《實施意見》既充分回應(yīng)了當(dāng)前智能體在大眾消費、行業(yè)應(yīng)用等領(lǐng)域快速發(fā)展的客觀趨勢，也為其朝著安全、可靠、可信方向高質(zhì)量、健康有序發(fā)展提供了重要遵循與指引，將有力促進(jìn)智能經(jīng)濟和智能社會新形態(tài)培育壯大，賦能新質(zhì)生產(chǎn)力發(fā)展。

在賽迪研究院未來產(chǎn)業(yè)研究中心人工智能研究室主任鐘新龍看來，《實施意見》標(biāo)志著我國在智能體規(guī)模化應(yīng)用的關(guān)鍵窗口期，率先構(gòu)建起覆蓋智能體全生命周期的發(fā)展和治理框架，推動智能體技術(shù)紅利在可問責(zé)、可解釋、可糾偏的有序軌道上釋放，為產(chǎn)業(yè)發(fā)展劃定了“安全底線”與“創(chuàng)新空間”的雙重邊界。

體系化推動智能體創(chuàng)新發(fā)展

在推動智能體創(chuàng)新發(fā)展方面，國家網(wǎng)信辦有關(guān)負(fù)責(zé)人介紹，《實施意見》圍繞智能體技術(shù)突破、場景應(yīng)用和生態(tài)建設(shè)等重點方向，體系化推動智能體創(chuàng)新發(fā)展。

具體來看，一是夯實發(fā)展基礎(chǔ)。通過強化基礎(chǔ)技術(shù)研發(fā)、完善智能體工具鏈，為產(chǎn)業(yè)提供高水平技術(shù)底座。建立智能體標(biāo)準(zhǔn)體系，降低智能體研發(fā)、適配、應(yīng)用門檻。前瞻布局多智能體協(xié)同、智能互聯(lián)網(wǎng)等前沿領(lǐng)域，為產(chǎn)業(yè)持續(xù)演進(jìn)打好基礎(chǔ)。二是強化應(yīng)用牽引。圍繞科學(xué)研究、產(chǎn)業(yè)發(fā)展、提振消費、民生福祉、社會治理等方向，提出19個典型應(yīng)用場景，牽引智能體技術(shù)產(chǎn)品優(yōu)化提升，探索可復(fù)制、可推廣的落地應(yīng)用模式。三是建設(shè)創(chuàng)新生態(tài)。加強培育開源創(chuàng)新力量、搭建產(chǎn)業(yè)協(xié)作平臺，推動產(chǎn)業(yè)高效協(xié)同，提升創(chuàng)新活力。通過構(gòu)建應(yīng)用推廣渠道、推進(jìn)重點場景開放，暢通供需渠道，形成市場牽引、內(nèi)驅(qū)發(fā)展的產(chǎn)業(yè)生態(tài)。積極培育全球生態(tài)，推動國內(nèi)外技術(shù)融通發(fā)展，營造開放共享的國際合作環(huán)境。

此次《實施意見》提出的19個典型應(yīng)用場景備受社會各界關(guān)注。

工業(yè)和信息化領(lǐng)域科技倫理專家委員會主任委員魏一鳴指出，智能體通過重構(gòu)“人機協(xié)作”的模式，將技術(shù)能力錨定在具體場景中，形成從任務(wù)執(zhí)行到結(jié)果交付的閉環(huán)?！秾嵤┮庖姟穱@科學(xué)研究、產(chǎn)業(yè)發(fā)展、提振消費、民生福祉、社會治理等領(lǐng)域，布局19個典型場景，為智能體的規(guī)?；涞靥峁┝饲逦穆窂綘恳?，促進(jìn)智能體從技術(shù)探索走向場景深耕。

“《實施意見》開辟了從科學(xué)研究、產(chǎn)業(yè)發(fā)展到民生福祉的廣闊應(yīng)用試驗田。通過建立智能體軟件商店、行業(yè)供需發(fā)布平臺以及推進(jìn)重點場景的試點示范，《實施意見》旨在打通技術(shù)研發(fā)與市場需求之間的壁壘，以真實的商業(yè)和公共服務(wù)場景牽引智能體技術(shù)的快速迭代。”余曉暉說。

規(guī)范有序推動智能體落地應(yīng)用

在規(guī)范智能體應(yīng)用方面，國家網(wǎng)信辦有關(guān)負(fù)責(zé)人介紹，《實施意見》將智能體安全、可靠、可信作為產(chǎn)業(yè)發(fā)展的底線要求，規(guī)范有序推動智能體落地應(yīng)用。

具體來看：一是明確產(chǎn)品準(zhǔn)則。要進(jìn)一步完善政策法規(guī)和倫理規(guī)范，做好智能體權(quán)限管理、行為管控等工作，為智能體相關(guān)產(chǎn)品研發(fā)提供指引。二是防范安全風(fēng)險。發(fā)揮技術(shù)手段作用，提升在智能體內(nèi)生安全、供應(yīng)鏈安全、應(yīng)用衍生風(fēng)險等方面的風(fēng)險防范能力，實現(xiàn)智能體開發(fā)、部署、應(yīng)用、維護全周期安全管理，有效防范系統(tǒng)性風(fēng)險。三是完善治理體系。適應(yīng)智能體技術(shù)演進(jìn)規(guī)律，根據(jù)應(yīng)用場景和潛在影響，構(gòu)建審慎穩(wěn)妥的分類分級治理框架，推動建設(shè)智能體合規(guī)服務(wù)體系，做到既“放得活”又“管得好”。四是強化行業(yè)自律。鼓勵智能體相關(guān)企業(yè)、行業(yè)組織、研究機構(gòu)加強責(zé)任意識，共同制定行業(yè)自律規(guī)則。引導(dǎo)智能體開發(fā)者、開發(fā)平臺、分發(fā)平臺、服務(wù)提供者參與信用評價，共同營造良好發(fā)展環(huán)境。

其中，在防范安全風(fēng)險方面，《實施意見》提出，提升內(nèi)生安全能力。研究智能體數(shù)據(jù)安全、個人信息保護、密碼防護、攻擊檢測、權(quán)限管理、行為控制等安全技術(shù)，提升智能體系統(tǒng)安全保障能力，防范數(shù)據(jù)投毒、隱私泄露、算法篡改、系統(tǒng)漏洞、運行失控等安全風(fēng)險。研究智能體安全檢測技術(shù)，探索建立智能體安全評估體系。

在完善治理體系方面，《實施意見》提出，構(gòu)建分類分級治理框架。根據(jù)應(yīng)用場景和潛在影響，審慎穩(wěn)妥開展智能體分級治理。對于敏感領(lǐng)域及重點行業(yè)，由網(wǎng)信部門聯(lián)合行業(yè)主管部門確定開放場景，根據(jù)相關(guān)法律法規(guī)、監(jiān)管要求和安全防護標(biāo)準(zhǔn)，實行備案、檢測、問題產(chǎn)品召回等管理措施。對于部分生活娛樂、日常辦公等低風(fēng)險領(lǐng)域，完善智能體評估測試工具，通過合規(guī)自測、信息報告、分發(fā)平臺管理、行業(yè)自律等實現(xiàn)高效治理。

談及下一步落實《實施意見》的工作舉措，國家網(wǎng)信辦有關(guān)負(fù)責(zé)人說：“國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部將會同有關(guān)方面切實推進(jìn)《實施意見》落地見效。聚焦智能體技術(shù)研發(fā)、場景開放、安全治理等關(guān)鍵環(huán)節(jié)，完善配套政策，形成工作合力，推動重點任務(wù)落實落地。同時，加強智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展的監(jiān)測評估、滾動實施和動態(tài)調(diào)整?！?/p>