全國(guó)首例AI代寫(xiě)“種草筆記”案，為“數(shù)字泔水”治理劃出了哪些紅線？
據(jù)中央廣播電視總臺(tái)中國(guó)之聲《新聞晚高峰》5月11日?qǐng)?bào)道，隨著生成式人工智能技術(shù)的飛速發(fā)展，大模型在文本生成、圖像創(chuàng)作等領(lǐng)域的應(yīng)用日益普及。然而，這項(xiàng)旨在提高生產(chǎn)力的技術(shù)，卻被一些黑灰產(chǎn)從業(yè)者盯上。網(wǎng)絡(luò)上，出現(xiàn)了一批主打“一鍵生成爆款種草筆記”的AI寫(xiě)作工具，這些工具以極低的成本，批量炮制虛假消費(fèi)體驗(yàn)和商品推薦。
對(duì)于以“真實(shí)分享”為核心競(jìng)爭(zhēng)力的社交和內(nèi)容平臺(tái)而言，此類低成本、零門(mén)檻批量生成的仿真實(shí)內(nèi)容，讓普通消費(fèi)者在海量“AI水軍”面前難辨真?zhèn)危瑖?yán)重?cái)D壓了優(yōu)質(zhì)原創(chuàng)創(chuàng)作者的生存空間。
近日，中央網(wǎng)信辦部署開(kāi)展“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)，聚焦利用AI技術(shù)生成“數(shù)字泔水”、制作發(fā)布虛假信息等問(wèn)題，堅(jiān)決清理違法不良信息，依法處置處罰違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。這些“數(shù)字泔水”從何而來(lái)？又該如何治理？
“輸入幾個(gè)關(guān)鍵詞，AI幫你全自動(dòng)寫(xiě)出爆款種草文案……”在各大短視頻平臺(tái)和二手交易網(wǎng)站上，“利用AI自動(dòng)化起號(hào)”“批量做矩陣號(hào)”成為了不少網(wǎng)絡(luò)課程的噱頭。購(gòu)買(mǎi)過(guò)此類課程的消費(fèi)者王馨（化名）接受中國(guó)之聲采訪時(shí)說(shuō)：“錄播課教你怎么用AI，給了一些指令，用AI寫(xiě)作、起號(hào)等，分析一下熱門(mén)賽道，然后就讓AI分析、寫(xiě)出爆款帖子?！?/p>
記者搜索發(fā)現(xiàn)，類似的課程及工具在網(wǎng)絡(luò)上有不少，在二手平臺(tái)，花幾毛錢(qián)就可以買(mǎi)到破解版軟件及教學(xué)視頻。
在黑貓投訴平臺(tái)，一款被多位消費(fèi)者投訴的AI寫(xiě)作助手，終身會(huì)員199元，提供工作總結(jié)、論文撰寫(xiě)、小說(shuō)創(chuàng)作、短視頻腳本、社交平臺(tái)筆記標(biāo)題生成等上百種服務(wù)，記者僅輸入筆記主題，不到一分鐘的時(shí)間，該款工具生成了20個(gè)“爆款標(biāo)題”；在商品推薦文案功能中，輸入商品名稱、品牌等幾個(gè)要素，可以瞬間生成幾百字的種草筆記。這些偽裝成真人親測(cè)的分享內(nèi)容，在生成的過(guò)程中，不需要任何真實(shí)出行經(jīng)歷、產(chǎn)品使用體驗(yàn)，完全由AI杜撰、虛構(gòu)。
此類AI寫(xiě)作工具往往提供工作總結(jié)、短視頻腳本、社交平臺(tái)筆記標(biāo)題生成等上百種服務(wù)
在課程學(xué)習(xí)及體驗(yàn)過(guò)程中，王馨覺(jué)得，批量拼湊的“種草筆記”內(nèi)容質(zhì)量很低。
王馨說(shuō)：“效果不是很好，AI味太重，就會(huì)有很多那種沒(méi)用的修飾，有的邏輯都不對(duì)，時(shí)間邏輯、敘事邏輯都會(huì)有問(wèn)題。”
無(wú)論是對(duì)于平臺(tái)、創(chuàng)作者還是龐大的用戶群體，AI批量生成的低質(zhì)內(nèi)容都會(huì)帶來(lái)前所未有的沖擊。小紅書(shū)社區(qū)用戶信任中心負(fù)責(zé)人吉吉表示：平臺(tái)一直在關(guān)注及治理相關(guān)內(nèi)容。
吉吉說(shuō)：“我們也做過(guò)比較大范圍的用戶調(diào)研，有接近三成的用戶對(duì)于AIGC的內(nèi)容接受度并不高。這個(gè)平臺(tái)提供給用戶的核心價(jià)值是建立在真實(shí)之上的，UGC在這里分享是基于自己真實(shí)的生活經(jīng)驗(yàn)、生活實(shí)踐的內(nèi)容，這些經(jīng)驗(yàn)被其他用戶看見(jiàn)、借鑒、參考和實(shí)踐，基于真實(shí)人的真實(shí)經(jīng)驗(yàn)分享而建立起來(lái)信任關(guān)系，但是AIGC內(nèi)容大量涌入、批量制造，內(nèi)容的這個(gè)成本正在趨近于零，對(duì)于整個(gè)社區(qū)的比較良性的創(chuàng)作生態(tài)，其實(shí)也是一個(gè)非常大的沖擊?！?/p>
AIGC領(lǐng)域科普作家、某頭部社交平臺(tái)優(yōu)質(zhì)創(chuàng)作者孫毅同樣對(duì)此表示擔(dān)憂：低廉的成本、虛假的內(nèi)容，會(huì)對(duì)網(wǎng)絡(luò)內(nèi)容生態(tài)構(gòu)成威脅。
孫毅說(shuō)：“如果內(nèi)容里面充斥著大量比較低質(zhì)的內(nèi)容，那其實(shí)真人創(chuàng)作者被‘埋沒(méi)’的可能性就會(huì)更大，這其實(shí)是一種‘劣幣驅(qū)逐良幣’，大模型迭代本來(lái)是靠著一些優(yōu)質(zhì)的真人的內(nèi)容，然后去補(bǔ)充它，讓它變得更好，但實(shí)際上如果說(shuō)這種低質(zhì)的內(nèi)容充斥互聯(lián)網(wǎng)，又被大模型反向吸收，最后就會(huì)導(dǎo)致這個(gè)模型‘塌陷’?！?/p>
不久前，中央網(wǎng)信辦印發(fā)通知，開(kāi)展為期4個(gè)月的“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)，將重點(diǎn)整治通過(guò)AI“托管”技術(shù)運(yùn)營(yíng)賬號(hào)，模擬真人批量注冊(cè)、運(yùn)營(yíng)社交賬號(hào)，批量生成發(fā)布低質(zhì)同質(zhì)文案等AI應(yīng)用亂象。
一方面，監(jiān)管部門(mén)緊盯AI技術(shù)濫用，另一方面，平臺(tái)也不斷跟進(jìn)完善治理機(jī)制，升級(jí)賬號(hào)風(fēng)控與異常行為識(shí)別能力。監(jiān)管整治、平臺(tái)治理雙向發(fā)力的同時(shí)，司法層面也同步出臺(tái)判例、明確執(zhí)法標(biāo)尺，以司法審判規(guī)范AI應(yīng)用行為。
近日，浙江省杭州市中級(jí)人民法院披露了一起涉及某社交平臺(tái)AI批量代寫(xiě)種草筆記典型案例，作為全國(guó)首例涉及AI代寫(xiě)“種草筆記”的不正當(dāng)競(jìng)爭(zhēng)案件，判決為生成式人工智能服務(wù)提供者劃定了合理的注意義務(wù)邊界。
據(jù)介紹，原告是知名社交平臺(tái)的經(jīng)營(yíng)者，該平臺(tái)規(guī)則和平臺(tái)公約均強(qiáng)調(diào)要真實(shí)體驗(yàn)和經(jīng)驗(yàn)分享，本案被告B公司和C公司共同運(yùn)營(yíng)了一款A(yù)I寫(xiě)作工具，該工具可定向?yàn)橛脩籼峁┥鲜錾缃黄脚_(tái)風(fēng)格的種草文案、旅游攻略等內(nèi)容的一鍵生成服務(wù)，并誘導(dǎo)用戶發(fā)布文案到該社交平臺(tái)。原告認(rèn)為被告的行為破壞了該社交平臺(tái)真實(shí)的種草內(nèi)容生態(tài)，向法院提起訴訟，要求后者停止著作權(quán)侵權(quán)及不正當(dāng)競(jìng)爭(zhēng)行為。該案法官助理張宗濱介紹：“本案被訴的這個(gè)AI寫(xiě)作工具，有網(wǎng)頁(yè)版、App、微信小程序等三種版本。它的熱門(mén)模塊，直接展示了小某書(shū)種草文案、小某書(shū)的旅游攻略、小某書(shū)筆記標(biāo)題等服務(wù)模塊，并且服務(wù)模塊的名稱直接采用了小某書(shū)相關(guān)的命名，還直接使用根據(jù)產(chǎn)品特點(diǎn)幫你生成‘符合小某書(shū)調(diào)性的分享文案’等宣傳語(yǔ)。點(diǎn)擊進(jìn)去‘小某書(shū)種草文案’服務(wù)模塊，在輸入‘選擇品種’這個(gè)欄目輸入‘護(hù)膚個(gè)護(hù)’，在‘產(chǎn)品名稱’和‘產(chǎn)品特點(diǎn)’這個(gè)欄目分別輸入‘膠原水乳’‘溫和不刺激’‘保濕嫩臉效果挺明顯的’，點(diǎn)擊一鍵創(chuàng)作，就可以直接生成一篇幾百字、繪聲繪色的文案。”
張宗濱介紹，本案的核心爭(zhēng)議焦點(diǎn)主要是：針對(duì)該社交平臺(tái)定向提供生成式人工智能服務(wù)是否構(gòu)成不正當(dāng)競(jìng)爭(zhēng)?！吨腥A人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》第二條規(guī)定，不正當(dāng)競(jìng)爭(zhēng)行為，是指經(jīng)營(yíng)者在生產(chǎn)經(jīng)營(yíng)活動(dòng)中，違反本法規(guī)定，擾亂市場(chǎng)競(jìng)爭(zhēng)秩序，損害其他經(jīng)營(yíng)者或者消費(fèi)者的合法權(quán)益的行為。
張宗濱說(shuō)：“這也是雙方在一審和二審過(guò)程當(dāng)中都存在較大爭(zhēng)議的一個(gè)方面。B、C公司認(rèn)為他們提供的這個(gè)服務(wù)，本質(zhì)就是一種技術(shù)服務(wù)，也就是我們所謂的‘技術(shù)中立抗辯’，那么我們認(rèn)為技術(shù)本身其實(shí)是中立的，但是并不代表這個(gè)技術(shù)的應(yīng)用是中立的。關(guān)鍵還是要看這個(gè)技術(shù)是怎么用的、用在哪兒、針對(duì)誰(shuí)、是否盈利，我們要防止以人工智能技術(shù)為幌子，實(shí)施侵害他人合法權(quán)益的技術(shù)濫用的行為?！?/p>
隨著我國(guó)《網(wǎng)絡(luò)反不正當(dāng)競(jìng)爭(zhēng)暫行規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》等文件落地，國(guó)家層面對(duì)AI服務(wù)提供者的合規(guī)義務(wù)提出了明確要求：此類服務(wù)應(yīng)當(dāng)尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德。在審理中，法院首先明確了原告通過(guò)長(zhǎng)期經(jīng)營(yíng)積累的真實(shí)內(nèi)容生態(tài)，屬于受法律保護(hù)的競(jìng)爭(zhēng)性權(quán)益。
張宗濱說(shuō)：“A公司通過(guò)長(zhǎng)期的經(jīng)營(yíng)，投入了大量的成本、人力、物力，產(chǎn)生和積累了大量的種草筆記內(nèi)容，形成了以真實(shí)體驗(yàn)為核心的種草內(nèi)容生態(tài)。這個(gè)生態(tài)也是其獲得商業(yè)利益和競(jìng)爭(zhēng)優(yōu)勢(shì)的一個(gè)核心資源，所以我們就認(rèn)為它是屬于《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》應(yīng)當(dāng)保護(hù)的競(jìng)爭(zhēng)性權(quán)益。”
而基于生成式人工智能服務(wù)的特點(diǎn)，被告無(wú)論是從行為方式還是行為目的來(lái)說(shuō)，沒(méi)有盡到合理注意義務(wù)。張宗濱介紹，在本案中，法院創(chuàng)新性地提出了“四要素判定法”，判決被告B、C公司賠償原告經(jīng)濟(jì)損失及合理開(kāi)支共計(jì)10萬(wàn)元。
被訴服務(wù)模塊以該社交平臺(tái)作為特定的商業(yè)應(yīng)用層，并非通用的AI工具
張宗濱說(shuō)：“第一，被訴服務(wù)是否屬于生成式人工智能服務(wù)。第二，被訴服務(wù)是否以特定場(chǎng)景作為應(yīng)用層？結(jié)合到本案當(dāng)中來(lái)，被訴服務(wù)的這個(gè)模塊名稱直接使用了‘小某書(shū)種草文案’等表述，并且它是以該社交平臺(tái)作為特定的商業(yè)應(yīng)用層，而并非通用的AI工具。第三，被訴服務(wù)是否帶有明確的指向性和誘導(dǎo)性？那結(jié)合本案當(dāng)中被訴的服務(wù)模塊，都是要誘導(dǎo)用戶發(fā)布未經(jīng)真實(shí)體驗(yàn)的相關(guān)文案內(nèi)容。第四，關(guān)于被訴服務(wù)是否屬于營(yíng)利性的商業(yè)行為，結(jié)合本案，該AI寫(xiě)作工具的相關(guān)頁(yè)面顯示終身會(huì)員168元，年會(huì)員98元，月會(huì)員40元。那它其實(shí)是由明確的商業(yè)利益驅(qū)動(dòng)的?！?/p>
AI寫(xiě)作工具相關(guān)頁(yè)面顯示終身會(huì)員是168元
從治理的角度來(lái)說(shuō)，該案判決的生效不僅是對(duì)原告合法訴求的回應(yīng)，也明確了生成式人工智能服務(wù)提供者合理的注意義務(wù)邊界，為治理提供了參照準(zhǔn)則。小紅書(shū)社區(qū)用戶信任中心負(fù)責(zé)人吉吉表示，平臺(tái)始終以真實(shí)性與原創(chuàng)價(jià)值作為AI內(nèi)容治理的根本標(biāo)尺。
吉吉說(shuō)：“對(duì)于已經(jīng)打標(biāo)的AIGC內(nèi)容，我們會(huì)通過(guò)兩類手段來(lái)識(shí)別低質(zhì)內(nèi)容，一類是通過(guò)平臺(tái)。我們過(guò)往一直在建設(shè)對(duì)于低質(zhì)內(nèi)容識(shí)別的模型，在發(fā)布環(huán)節(jié)或者是曝光初期對(duì)低質(zhì)內(nèi)容進(jìn)行識(shí)別攔截，這里面包括同質(zhì)化、信息含量低，也包括一些‘擦邊’博眼球的內(nèi)容。另外一個(gè)手段是根據(jù)用戶的反饋，比如說(shuō)用戶的舉報(bào)行為，用戶對(duì)于筆記點(diǎn)擊不喜歡的行為，來(lái)定位今天AIGC的低質(zhì)內(nèi)容?！?/p>
吉吉表示，從治理來(lái)說(shuō)，除平臺(tái)進(jìn)行識(shí)別攔截外，更需要AI模型廠商、生成式AI服務(wù)提供者共同承擔(dān)主體責(zé)任。
吉吉說(shuō)：“也就是什么類型的、什么樣的內(nèi)容是由AI生成和合成的。因?yàn)槭袌?chǎng)上的生成式模型的能力迭代非常快。如果用戶上傳的內(nèi)容沒(méi)有攜帶模型生成的暗水印或者信息的話，會(huì)對(duì)我們的識(shí)別造成非常大的難度。我們也呼吁，各大模型廠商能夠加強(qiáng)對(duì)于生成內(nèi)容的打標(biāo)規(guī)范?！?/p>
張宗濱認(rèn)為，未來(lái)要關(guān)注模型研發(fā)、內(nèi)容生成到合規(guī)管控等多個(gè)環(huán)節(jié)，構(gòu)建全鏈條共治格局。
張宗濱說(shuō)：“第一個(gè)是要確保訓(xùn)練的數(shù)據(jù)和模型設(shè)計(jì)合規(guī)，不得將模型定向優(yōu)化為生成特定平臺(tái)的違規(guī)內(nèi)容。第二個(gè)是要加強(qiáng)風(fēng)險(xiǎn)提示和內(nèi)容管控，要以顯著的方式提示AI生成內(nèi)容的局限性，明確禁止用于發(fā)布虛假的信息，也要遵守特定的平臺(tái)規(guī)則，限制定向用于特定平臺(tái)的違規(guī)的場(chǎng)景。第三是要做好內(nèi)容標(biāo)識(shí)和用戶數(shù)據(jù)保護(hù)。第四，要建立投訴舉報(bào)機(jī)制，對(duì)于違法或侵權(quán)的內(nèi)容要及時(shí)處置?！?span style="text-indent: 32px; text-wrap: wrap;">（周益帆）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)