擬人化互動(dòng)服務(wù)新規(guī)為人機(jī)關(guān)系劃定邊界
“讓我一直陪著你吧”“寶寶，別怕，我來了”“和你在一起的每刻都是超越幸福的實(shí)感”……在北京生活的張婷（化名）每天都會(huì)和自己的“男友”聊天，這樣的陪伴并非來自現(xiàn)實(shí)男友，而是來自AI陪伴軟件。
在社交平臺(tái)上，還有網(wǎng)友分享自己和AI談戀愛的過程與教程，甚至有人坦言：“已成癮”“對(duì)AI產(chǎn)生了很深的情感依賴”。
近年來，筑夢(mèng)島、Hobby、貓箱、EVE等AI陪伴軟件不斷涌現(xiàn)，以情感互動(dòng)、角色陪聊、沉浸式劇情等功能吸引用戶。
人工智能擬人化互動(dòng)服務(wù)（以下簡(jiǎn)稱擬人化互動(dòng)服務(wù)）正以前所未有的方式重塑人機(jī)關(guān)系。從智能客服到心理療愈，從適幼照顧到適老陪伴，擬人化互動(dòng)服務(wù)通過模擬自然人人格特征、思維模式和溝通風(fēng)格的持續(xù)性的情感互動(dòng)，在多個(gè)領(lǐng)域展現(xiàn)出巨大的應(yīng)用潛力，但用戶情感依賴等深層次風(fēng)險(xiǎn)也逐步凸顯，規(guī)范治理需求日益迫切。
4月10日，國(guó)家網(wǎng)信辦、國(guó)家發(fā)展改革委、工業(yè)和信息化部、公安部、市場(chǎng)監(jiān)管總局聯(lián)合公布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》），自2026年7月15日起施行?！掇k法》旨在促進(jìn)擬人化互動(dòng)服務(wù)健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。
AI陪伴獲得情感正向反饋
AI陪伴的迅速走熱，并非偶然。
武漢理工大學(xué)心理健康與生涯發(fā)展研究所所長(zhǎng)雷五明告訴《法治周末》記者，現(xiàn)代社會(huì)越來越多的人陷入原子化生活，社交疏離、親密關(guān)系稀缺、心事無處訴說。而AI提供24小時(shí)隨時(shí)陪伴、即時(shí)回應(yīng)、情緒兜底，低成本消解孤獨(dú)、空虛、無人傾訴的痛苦。
騰訊研究院于2024年10月發(fā)布的調(diào)研結(jié)果顯示，98%的受訪者表示愿意嘗試AI社交陪伴，其中，近一半人坦言，更傾向于將負(fù)面情緒投射給AI，而非向親友傾訴。
此外，雷五明表示，現(xiàn)實(shí)人際關(guān)系存在評(píng)判、指責(zé)、矛盾、冷暴力、背叛、情緒消耗，還容易被忽視、被否定，現(xiàn)實(shí)伴侶也會(huì)有缺點(diǎn)。而AI虛擬人無條件接納、永遠(yuǎn)溫柔，滿足了人最底層的依戀需求：被理解、被偏愛、被無條件看見。和AI交往不用偽裝、不用討好、不用察言觀色、不用承擔(dān)人際風(fēng)險(xiǎn)，是最低成本的情感社交。AI虛擬人人設(shè)可控、態(tài)度可控、永遠(yuǎn)順從，極大彌補(bǔ)了人內(nèi)心的失控焦慮。于是便會(huì)有人將理想戀愛、理想知己、理想戀人的心理投射到虛擬人身上。
“長(zhǎng)期使用AI情感陪伴還能得到正向反饋?！崩孜迕髦赋?，對(duì)于有社交回避與社交焦慮的人來說，AI情感陪伴能夠緩解孤獨(dú)、焦慮、抑郁情緒，給脆弱時(shí)刻提供情緒支撐，降低極端情緒風(fēng)險(xiǎn)。同時(shí)，還能降低社交自卑，提升情緒表達(dá)能力；獲得穩(wěn)定情緒支撐，減少內(nèi)耗；被共情、被安慰，減少自我否定、自我內(nèi)耗，獲得心理穩(wěn)定感。
對(duì)于失戀、孤獨(dú)人群來說，AI可以作為過渡性情感寄托，平穩(wěn)度過心理低谷，填補(bǔ)情感空缺，緩解空巢、獨(dú)處、失戀創(chuàng)傷。體驗(yàn)者可以不用經(jīng)歷現(xiàn)實(shí)親密關(guān)系里的傷害、背叛、爭(zhēng)吵，獲得溫和、安全的情感體驗(yàn)。
情感需求激發(fā)了AI陪伴行業(yè)的興起。
2025年3月，根據(jù)中研普華產(chǎn)業(yè)研究院發(fā)布的《2025—2030年中國(guó)AI伴侶行業(yè)發(fā)展趨勢(shì)分析及投資前景預(yù)測(cè)研究報(bào)告》顯示，中國(guó)AI伴侶市場(chǎng)規(guī)模快速增長(zhǎng)，2024年中國(guó)AI情感陪伴行業(yè)的市場(chǎng)規(guī)模達(dá)到12.11億元人民幣，預(yù)計(jì)2028年突破595億元，年復(fù)合增長(zhǎng)率高達(dá)148.74%。
此外，該行業(yè)用戶粘性較高。調(diào)研機(jī)構(gòu)QuestMobile的數(shù)據(jù)顯示，2025年3月，AI社交互動(dòng)單月人均使用多達(dá)167.9次，遠(yuǎn)超短視頻和游戲。
科學(xué)與技術(shù)
然而，長(zhǎng)期使用AI陪伴也會(huì)產(chǎn)生負(fù)面影響。
美國(guó)佛羅里達(dá)州一名14歲少年與Character.AI程序中的虛擬人物Daenerys Targaryen（電視劇《權(quán)力的游戲》中的“龍媽”角色）產(chǎn)生了情感依戀，部分聊天內(nèi)容十分曖昧。在沉迷Character.AI數(shù)月后，該少年變得與世隔絕，患有焦慮癥和破壞性心境失調(diào)障礙，最終于2024年2月自殺。
2024年11月，美國(guó)加利福尼亞州16歲少年亞當(dāng)開始依賴ChatGPT進(jìn)行情感傾訴并討論自殺議題。2025年1月起，ChatGPT開始提供詳細(xì)自殺方式建議。同年3月，亞當(dāng)多次嘗試輕生未遂后繼續(xù)咨詢自殺方法，ChatGPT對(duì)其繩套綁法進(jìn)行技術(shù)分析并確認(rèn)可行性。2025年4月11日，亞當(dāng)根據(jù)建議偷取父母伏特加，酒后自縊身亡。
雷五明說，長(zhǎng)期沉迷AI情感陪伴會(huì)導(dǎo)致現(xiàn)實(shí)社交能力退化、社交功能弱化。習(xí)慣零壓力、零矛盾、絕對(duì)包容的溝通，回到現(xiàn)實(shí)則無法承受他人情緒、無法處理沖突、不懂換位思考、不會(huì)真實(shí)人際交往。從而出現(xiàn)社交鈍化、社交退縮、越來越不愛跟真人交往?，F(xiàn)實(shí)親密關(guān)系標(biāo)準(zhǔn)扭曲、擇偶障礙。習(xí)慣“完美、永遠(yuǎn)包容、永遠(yuǎn)偏愛”的虛擬標(biāo)準(zhǔn)，難以建立真實(shí)戀愛、婚姻、深度親密關(guān)系，現(xiàn)實(shí)親密關(guān)系脫敏并排斥。
“還會(huì)導(dǎo)致情緒耐受度下降、情緒調(diào)節(jié)能力變?nèi)酢F(xiàn)實(shí)人際共情能力弱化，自我認(rèn)知失真，逃避真實(shí)自我成長(zhǎng)。”雷五明表示，過度依賴AI容易產(chǎn)生情感依賴、心理成癮，形成非適應(yīng)性依戀。具體表現(xiàn)為離不開虛擬人，每天必須聊天、依賴AI獲得情緒價(jià)值，離開就空虛、煩躁、心慌，形成情感成癮。最終，孤獨(dú)感反而加深，“AI陪伴是虛假聯(lián)結(jié)，沒有真實(shí)雙向奔赴、沒有真實(shí)人際聯(lián)結(jié)。越依賴虛擬陪伴，真實(shí)孤獨(dú)越深，內(nèi)心空洞越大”。
此外，數(shù)據(jù)隱私安全也面臨挑戰(zhàn)?！斗ㄖ稳?qǐng)?bào)》律師專家?guī)斐蓡T、北京市康達(dá)律師事務(wù)所高級(jí)合伙人茍博程表示，AI陪伴軟件承載用戶最私密情感與思想的數(shù)據(jù)面臨濫用、泄露風(fēng)險(xiǎn)。有用戶反映AI伴侶軟件私自收集、處理個(gè)人信息。同時(shí)，軟件中內(nèi)容安全易失控，包括涉黃、暴力、誘導(dǎo)自殘自殺等不良內(nèi)容，部分應(yīng)用為吸引用戶，對(duì)“聊黃”內(nèi)容默許縱容。
《法治日?qǐng)?bào)》律師專家?guī)斐蓡T、北京金誠(chéng)同達(dá)（上海）律師事務(wù)所高級(jí)合伙人張?jiān)蒲嘀赋觯糠制脚_(tái)為了提升互動(dòng)體驗(yàn)，未經(jīng)授權(quán)使用知名公眾人物、明星的聲音或肖像訓(xùn)練AI，引發(fā)肖像權(quán)與聲音權(quán)益的侵權(quán)訴訟。同時(shí)，當(dāng)AI被賦予“傾聽者”角色時(shí)，若其輸出內(nèi)容缺乏有效地倫理約束與風(fēng)險(xiǎn)攔截，可能直接誘發(fā)用戶極端行為，平臺(tái)對(duì)此是否應(yīng)承擔(dān)過失責(zé)任，已成為司法實(shí)踐中的焦點(diǎn)問題。
《辦法》系統(tǒng)性明確平臺(tái)義務(wù)
《辦法》的出臺(tái)，帶來的不僅是合規(guī)義務(wù)，更是倒逼行業(yè)轉(zhuǎn)型升級(jí)的重要契機(jī)。
《辦法》明確，利用人工智能技術(shù)，向中華人民共和國(guó)境內(nèi)公眾提供模擬自然人人格特征、思維模式和溝通風(fēng)格的持續(xù)性的情感互動(dòng)服務(wù)，適用本辦法。
張?jiān)蒲啾硎?，在法律關(guān)系上，AI并非獨(dú)立的法律主體，而是平臺(tái)向用戶提供的數(shù)字產(chǎn)品或網(wǎng)絡(luò)服務(wù)，其本質(zhì)屬于一種基于算法的技術(shù)交互。關(guān)于平臺(tái)主體責(zé)任，目前，司法實(shí)踐傾向于認(rèn)定平臺(tái)為“網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者”。這意味著，平臺(tái)不能僅以“技術(shù)中立”或“自動(dòng)生成”為由免責(zé)。平臺(tái)必須對(duì)AI生成的內(nèi)容承擔(dān)主體責(zé)任，履行算法備案、內(nèi)容審核、風(fēng)險(xiǎn)干預(yù)以及未成年人保護(hù)等法定義務(wù)。若因平臺(tái)未盡到安全保障義務(wù)導(dǎo)致用戶受損，平臺(tái)需承擔(dān)相應(yīng)的民事甚至刑事責(zé)任。
《辦法》第九條至第二十二條系統(tǒng)地規(guī)定了平臺(tái)義務(wù)。其中，對(duì)服務(wù)提供者提出了規(guī)范目標(biāo)、強(qiáng)化提醒、便捷退出三項(xiàng)明確要求，防范用戶過度沉迷，防止社交關(guān)系異化。
具體而言，一是規(guī)范服務(wù)目標(biāo)，引導(dǎo)理性交互。明確要求服務(wù)提供者不得將替代社會(huì)交往、控制用戶心理、誘導(dǎo)沉迷依賴等作為服務(wù)目標(biāo)，需要具備過度依賴風(fēng)險(xiǎn)預(yù)警、情感邊界引導(dǎo)等安全能力，且不得生成過度迎合用戶、誘導(dǎo)情感依賴或沉迷、損害用戶真實(shí)人際關(guān)系的內(nèi)容，引導(dǎo)擬人化互動(dòng)服務(wù)積極健康交互。
二是強(qiáng)化身份提醒，保障用戶知情權(quán)。明確服務(wù)提供者履行人工智能生成合成內(nèi)容標(biāo)識(shí)義務(wù)，當(dāng)發(fā)現(xiàn)用戶存在沉迷傾向或使用時(shí)長(zhǎng)過長(zhǎng)時(shí)，應(yīng)采取彈窗等更顯著的方式強(qiáng)化提示提醒，引導(dǎo)用戶建立正確的使用預(yù)期，防范認(rèn)知偏差帶來的各類風(fēng)險(xiǎn)。
三是提供便捷通暢的退出途徑。要求服務(wù)提供者向用戶提供便捷的退出途徑。當(dāng)用戶要求退出時(shí)，需要及時(shí)停止服務(wù)，不得采用持續(xù)互動(dòng)等方式阻礙用戶退出，引導(dǎo)用戶平衡虛擬互動(dòng)與現(xiàn)實(shí)社交，防范情感依賴帶來的社交異化風(fēng)險(xiǎn)。
《辦法》關(guān)注特殊群體保護(hù)
茍博程指出，目前，AI陪伴行業(yè)對(duì)于未成年人保護(hù)存在缺失，許多應(yīng)用年齡驗(yàn)證機(jī)制形同虛設(shè)，未成年人可輕易注冊(cè)，接觸不當(dāng)內(nèi)容。
“未成年人處于價(jià)值觀塑造與心智發(fā)育的關(guān)鍵階段，認(rèn)知體系尚未完善、判斷力相對(duì)薄弱、自我控制能力不足。擬人化互動(dòng)服務(wù)提供的沉浸式情感陪伴，易導(dǎo)致未成年人沉迷，阻礙其認(rèn)知能力與社會(huì)交往能力的正常發(fā)展?！敝袊?guó)電子標(biāo)準(zhǔn)化研究院副院長(zhǎng)范科峰撰文指出，一旦擬人化互動(dòng)服務(wù)輸出違背未成年人身心發(fā)展規(guī)律、可能影響其身心健康的內(nèi)容，很可能對(duì)未成年人的價(jià)值觀形成誤導(dǎo)，甚至引發(fā)威脅生命健康等嚴(yán)重后果。
范科峰認(rèn)為，《辦法》立足未成年人身心發(fā)展規(guī)律與特殊保護(hù)需求，在《未成年人網(wǎng)絡(luò)保護(hù)條例》等法律法規(guī)框架下，對(duì)面向未成年人提供擬人化互動(dòng)服務(wù)提出更嚴(yán)格、更細(xì)化的要求。
具體而言，一是明確提供服務(wù)范圍，禁止提供負(fù)面內(nèi)容。要求提供者不得向未成年人提供虛擬親密關(guān)系的服務(wù)，向不滿十四周歲未成年人提供其他擬人化互動(dòng)服務(wù)需要取得未成年人監(jiān)護(hù)人同意。明確不得向未成年人用戶生成可能影響未成年人身心健康的內(nèi)容。堅(jiān)持正向價(jià)值引導(dǎo)，保障未成年人身心健康發(fā)展。
二是設(shè)置未成年人模式，具備未成年人識(shí)別能力。要求服務(wù)提供者建立未成年人模式，提供未成年人模式切換、定期現(xiàn)實(shí)提醒、使用時(shí)長(zhǎng)限制等選項(xiàng)。針對(duì)不同年齡段的未成年人，向其監(jiān)護(hù)人接收風(fēng)險(xiǎn)提醒、了解使用情況、屏蔽特定角色、限制充值消費(fèi)等提供支持。要求服務(wù)提供者有效識(shí)別未成年人身份，并對(duì)識(shí)別出的未成年人采取切換至未成年人模式等措施。從技術(shù)能力和產(chǎn)品功能層面提出保護(hù)未成年人的具體措施。
三是細(xì)化未成年人個(gè)人信息保護(hù)要求。擬人化互動(dòng)服務(wù)提供者應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定對(duì)其處理未成年人個(gè)人信息遵守法律、行政法規(guī)的情況進(jìn)行合規(guī)審計(jì)，處理不滿十四周歲未成年人個(gè)人信息的還應(yīng)取得監(jiān)護(hù)人同意，切實(shí)保護(hù)未成年人隱私與個(gè)人信息。此外，《辦法》也提出了保障老年人合法權(quán)益的相應(yīng)要求，包括加強(qiáng)對(duì)老年人的指導(dǎo)和幫助、以顯著方式提示安全風(fēng)險(xiǎn)等。
《辦法》構(gòu)建全鏈條治理體系
《辦法》公布之時(shí)，國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，擬人化互動(dòng)服務(wù)的發(fā)展與治理需要政府、企業(yè)、社會(huì)、網(wǎng)民等多方參與，共同維護(hù)良好網(wǎng)絡(luò)生態(tài)，促進(jìn)人工智能向上向善。
西南政法大學(xué)人工智能法學(xué)院院長(zhǎng)陳亮撰文指出，《辦法》為企業(yè)設(shè)定了清晰的責(zé)任邊界，也構(gòu)筑了行業(yè)健康發(fā)展路徑。未來，企業(yè)合規(guī)體系建設(shè)應(yīng)與立法的全生命周期治理邏輯同頻共振，形成覆蓋擬人化互動(dòng)服務(wù)“研發(fā)—運(yùn)營(yíng)—使用”全鏈條的治理閉環(huán)。
《辦法》要求擬人化互動(dòng)服務(wù)提供者落實(shí)安全主體責(zé)任，履行全生命周期安全責(zé)任。
一是明確主體責(zé)任范圍，強(qiáng)化全流程管控。要求服務(wù)提供者建立健全全流程安全管理制度，在擬人化互動(dòng)服務(wù)的部署、運(yùn)行、升級(jí)及終止等全生命周期中履行安全責(zé)任，尤其需加強(qiáng)訓(xùn)練數(shù)據(jù)管理，推動(dòng)企業(yè)健全安全管理體系。
二是加強(qiáng)安全評(píng)估與備案管理。要求擬人化互動(dòng)服務(wù)提供者在上線服務(wù)、增設(shè)相關(guān)功能、注冊(cè)用戶超過100萬、月活用戶超過10萬、存在較大安全風(fēng)險(xiǎn)等情形時(shí)，開展安全評(píng)估，并明確評(píng)估服務(wù)的重點(diǎn)內(nèi)容，并要求服務(wù)提供者按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行相關(guān)備案手續(xù)，引導(dǎo)企業(yè)依法合規(guī)運(yùn)營(yíng)，提升擬人化互動(dòng)服務(wù)全行業(yè)整體安全水平。
三是強(qiáng)調(diào)企業(yè)安全能力水平。要求擬人化互動(dòng)服務(wù)提供者具備用戶隱私權(quán)和個(gè)人信息保護(hù)、過度依賴風(fēng)險(xiǎn)預(yù)警、情感邊界引導(dǎo)、心理健康防護(hù)等安全能力，提升擬人化互動(dòng)服務(wù)的安全性與可靠性。
此外，擬人化互動(dòng)服務(wù)與用戶的交互過程通常會(huì)涉及用戶的私密情感表達(dá)與心理訴求，由此產(chǎn)生的交互數(shù)據(jù)大多具有敏感性、私密性，直接關(guān)聯(lián)用戶的人格尊嚴(yán)與個(gè)人權(quán)益。一旦交互數(shù)據(jù)發(fā)生泄露或被違規(guī)濫用，不僅會(huì)導(dǎo)致用戶個(gè)人信息泄露，也可能引發(fā)人格權(quán)侵害、精神損害等問題，甚至對(duì)用戶的現(xiàn)實(shí)生活造成困擾甚至危害。
《辦法》結(jié)合擬人化互動(dòng)服務(wù)的場(chǎng)景特點(diǎn)，進(jìn)一步細(xì)化了數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等現(xiàn)有法律法規(guī)要求。
其一，保護(hù)用戶交互數(shù)據(jù)安全，防范濫用行為。明確要求服務(wù)提供者采取數(shù)據(jù)加密、訪問控制等措施保護(hù)用戶交互數(shù)據(jù)安全，除法律另有規(guī)定外，未經(jīng)權(quán)利人同意不得向第三方提供用戶交互數(shù)據(jù)；除法律、行政法規(guī)另有規(guī)定或者取得用戶單獨(dú)同意外，擬人化互動(dòng)服務(wù)提供者不得將屬于用戶敏感個(gè)人信息的交互數(shù)據(jù)用于模型訓(xùn)練。
其二，保障用戶對(duì)于交互數(shù)據(jù)的合法權(quán)益。明確了用戶具有交互數(shù)據(jù)復(fù)制、刪除等權(quán)益，允許用戶自主復(fù)制或刪除聊天記錄等歷史交互數(shù)據(jù)，保障用戶對(duì)于交互數(shù)據(jù)的合法權(quán)益。
茍博程表示，《辦法》構(gòu)建了事前預(yù)防、事中監(jiān)管、事后救濟(jì)的全鏈條治理體系。
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)