據(jù)中央廣播電視總臺中國之聲《新聞晚高峰》5月11日報道，隨著生成式人工智能技術(shù)的飛速發(fā)展，大模型在文本生成、圖像創(chuàng)作等領(lǐng)域的應(yīng)用日益普及。然而，這項旨在提高生產(chǎn)力的技術(shù)，卻被一些黑灰產(chǎn)從業(yè)者盯上。網(wǎng)絡(luò)上，出現(xiàn)了一批主打“一鍵生成爆款種草筆記”的AI寫作工具，這些工具以極低的成本，批量炮制虛假消費體驗和商品推薦。

對于以“真實分享”為核心競爭力的社交和內(nèi)容平臺而言，此類低成本、零門檻批量生成的仿真實內(nèi)容，讓普通消費者在海量“AI水軍”面前難辨真?zhèn)危瑖乐財D壓了優(yōu)質(zhì)原創(chuàng)創(chuàng)作者的生存空間。

近日，中央網(wǎng)信辦部署開展“清朗·整治AI應(yīng)用亂象”專項行動，聚焦利用AI技術(shù)生成“數(shù)字泔水”、制作發(fā)布虛假信息等問題，堅決清理違法不良信息，依法處置處罰違規(guī)賬號、MCN機構(gòu)和網(wǎng)站平臺。這些“數(shù)字泔水”從何而來？又該如何治理？

“輸入幾個關(guān)鍵詞，AI幫你全自動寫出爆款種草文案……”在各大短視頻平臺和二手交易網(wǎng)站上，“利用AI自動化起號”“批量做矩陣號”成為了不少網(wǎng)絡(luò)課程的噱頭。購買過此類課程的消費者王馨（化名）接受中國之聲采訪時說：“錄播課教你怎么用AI，給了一些指令，用AI寫作、起號等，分析一下熱門賽道，然后就讓AI分析、寫出爆款帖子?！?/p>

記者搜索發(fā)現(xiàn)，類似的課程及工具在網(wǎng)絡(luò)上有不少，在二手平臺，花幾毛錢就可以買到破解版軟件及教學(xué)視頻。

在黑貓投訴平臺，一款被多位消費者投訴的AI寫作助手，終身會員199元，提供工作總結(jié)、論文撰寫、小說創(chuàng)作、短視頻腳本、社交平臺筆記標題生成等上百種服務(wù)，記者僅輸入筆記主題，不到一分鐘的時間，該款工具生成了20個“爆款標題”；在商品推薦文案功能中，輸入商品名稱、品牌等幾個要素，可以瞬間生成幾百字的種草筆記。這些偽裝成真人親測的分享內(nèi)容，在生成的過程中，不需要任何真實出行經(jīng)歷、產(chǎn)品使用體驗，完全由AI杜撰、虛構(gòu)。

此類AI寫作工具往往提供工作總結(jié)、短視頻腳本、社交平臺筆記標題生成等上百種服務(wù)

在課程學(xué)習(xí)及體驗過程中，王馨覺得，批量拼湊的“種草筆記”內(nèi)容質(zhì)量很低。

王馨說：“效果不是很好，AI味太重，就會有很多那種沒用的修飾，有的邏輯都不對，時間邏輯、敘事邏輯都會有問題?！?/p>

無論是對于平臺、創(chuàng)作者還是龐大的用戶群體，AI批量生成的低質(zhì)內(nèi)容都會帶來前所未有的沖擊。小紅書社區(qū)用戶信任中心負責人吉吉表示：平臺一直在關(guān)注及治理相關(guān)內(nèi)容。

吉吉說：“我們也做過比較大范圍的用戶調(diào)研，有接近三成的用戶對于AIGC的內(nèi)容接受度并不高。這個平臺提供給用戶的核心價值是建立在真實之上的，UGC在這里分享是基于自己真實的生活經(jīng)驗、生活實踐的內(nèi)容，這些經(jīng)驗被其他用戶看見、借鑒、參考和實踐，基于真實人的真實經(jīng)驗分享而建立起來信任關(guān)系，但是AIGC內(nèi)容大量涌入、批量制造，內(nèi)容的這個成本正在趨近于零，對于整個社區(qū)的比較良性的創(chuàng)作生態(tài)，其實也是一個非常大的沖擊。”

AIGC領(lǐng)域科普作家、某頭部社交平臺優(yōu)質(zhì)創(chuàng)作者孫毅同樣對此表示擔憂：低廉的成本、虛假的內(nèi)容，會對網(wǎng)絡(luò)內(nèi)容生態(tài)構(gòu)成威脅。

孫毅說：“如果內(nèi)容里面充斥著大量比較低質(zhì)的內(nèi)容，那其實真人創(chuàng)作者被‘埋沒’的可能性就會更大，這其實是一種‘劣幣驅(qū)逐良幣’，大模型迭代本來是靠著一些優(yōu)質(zhì)的真人的內(nèi)容，然后去補充它，讓它變得更好，但實際上如果說這種低質(zhì)的內(nèi)容充斥互聯(lián)網(wǎng)，又被大模型反向吸收，最后就會導(dǎo)致這個模型‘塌陷’。”

不久前，中央網(wǎng)信辦印發(fā)通知，開展為期4個月的“清朗·整治AI應(yīng)用亂象”專項行動，將重點整治通過AI“托管”技術(shù)運營賬號，模擬真人批量注冊、運營社交賬號，批量生成發(fā)布低質(zhì)同質(zhì)文案等AI應(yīng)用亂象。

一方面，監(jiān)管部門緊盯AI技術(shù)濫用，另一方面，平臺也不斷跟進完善治理機制，升級賬號風(fēng)控與異常行為識別能力。監(jiān)管整治、平臺治理雙向發(fā)力的同時，司法層面也同步出臺判例、明確執(zhí)法標尺，以司法審判規(guī)范AI應(yīng)用行為。

近日，浙江省杭州市中級人民法院披露了一起涉及某社交平臺AI批量代寫種草筆記典型案例，作為全國首例涉及AI代寫“種草筆記”的不正當競爭案件，判決為生成式人工智能服務(wù)提供者劃定了合理的注意義務(wù)邊界。

據(jù)介紹，原告是知名社交平臺的經(jīng)營者，該平臺規(guī)則和平臺公約均強調(diào)要真實體驗和經(jīng)驗分享，本案被告B公司和C公司共同運營了一款A(yù)I寫作工具，該工具可定向為用戶提供上述社交平臺風(fēng)格的種草文案、旅游攻略等內(nèi)容的一鍵生成服務(wù)，并誘導(dǎo)用戶發(fā)布文案到該社交平臺。原告認為被告的行為破壞了該社交平臺真實的種草內(nèi)容生態(tài)，向法院提起訴訟，要求后者停止著作權(quán)侵權(quán)及不正當競爭行為。該案法官助理張宗濱介紹：“本案被訴的這個AI寫作工具，有網(wǎng)頁版、App、微信小程序等三種版本。它的熱門模塊，直接展示了小某書種草文案、小某書的旅游攻略、小某書筆記標題等服務(wù)模塊，并且服務(wù)模塊的名稱直接采用了小某書相關(guān)的命名，還直接使用根據(jù)產(chǎn)品特點幫你生成‘符合小某書調(diào)性的分享文案’等宣傳語。點擊進去‘小某書種草文案’服務(wù)模塊，在輸入‘選擇品種’這個欄目輸入‘護膚個護’，在‘產(chǎn)品名稱’和‘產(chǎn)品特點’這個欄目分別輸入‘膠原水乳’‘溫和不刺激’‘保濕嫩臉效果挺明顯的’，點擊一鍵創(chuàng)作，就可以直接生成一篇幾百字、繪聲繪色的文案。”

張宗濱介紹，本案的核心爭議焦點主要是：針對該社交平臺定向提供生成式人工智能服務(wù)是否構(gòu)成不正當競爭。《中華人民共和國反不正當競爭法》第二條規(guī)定，不正當競爭行為，是指經(jīng)營者在生產(chǎn)經(jīng)營活動中，違反本法規(guī)定，擾亂市場競爭秩序，損害其他經(jīng)營者或者消費者的合法權(quán)益的行為。

張宗濱說：“這也是雙方在一審和二審過程當中都存在較大爭議的一個方面。B、C公司認為他們提供的這個服務(wù)，本質(zhì)就是一種技術(shù)服務(wù)，也就是我們所謂的‘技術(shù)中立抗辯’，那么我們認為技術(shù)本身其實是中立的，但是并不代表這個技術(shù)的應(yīng)用是中立的。關(guān)鍵還是要看這個技術(shù)是怎么用的、用在哪兒、針對誰、是否盈利，我們要防止以人工智能技術(shù)為幌子，實施侵害他人合法權(quán)益的技術(shù)濫用的行為?！?/p>

隨著我國《網(wǎng)絡(luò)反不正當競爭暫行規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標識辦法》等文件落地，國家層面對AI服務(wù)提供者的合規(guī)義務(wù)提出了明確要求：此類服務(wù)應(yīng)當尊重知識產(chǎn)權(quán)、商業(yè)道德。在審理中，法院首先明確了原告通過長期經(jīng)營積累的真實內(nèi)容生態(tài)，屬于受法律保護的競爭性權(quán)益。

張宗濱說：“A公司通過長期的經(jīng)營，投入了大量的成本、人力、物力，產(chǎn)生和積累了大量的種草筆記內(nèi)容，形成了以真實體驗為核心的種草內(nèi)容生態(tài)。這個生態(tài)也是其獲得商業(yè)利益和競爭優(yōu)勢的一個核心資源，所以我們就認為它是屬于《中華人民共和國反不正當競爭法》應(yīng)當保護的競爭性權(quán)益?！?/p>

而基于生成式人工智能服務(wù)的特點，被告無論是從行為方式還是行為目的來說，沒有盡到合理注意義務(wù)。張宗濱介紹，在本案中，法院創(chuàng)新性地提出了“四要素判定法”，判決被告B、C公司賠償原告經(jīng)濟損失及合理開支共計10萬元。

被訴服務(wù)模塊以該社交平臺作為特定的商業(yè)應(yīng)用層，并非通用的AI工具

張宗濱說：“第一，被訴服務(wù)是否屬于生成式人工智能服務(wù)。第二，被訴服務(wù)是否以特定場景作為應(yīng)用層？結(jié)合到本案當中來，被訴服務(wù)的這個模塊名稱直接使用了‘小某書種草文案’等表述，并且它是以該社交平臺作為特定的商業(yè)應(yīng)用層，而并非通用的AI工具。第三，被訴服務(wù)是否帶有明確的指向性和誘導(dǎo)性？那結(jié)合本案當中被訴的服務(wù)模塊，都是要誘導(dǎo)用戶發(fā)布未經(jīng)真實體驗的相關(guān)文案內(nèi)容。第四，關(guān)于被訴服務(wù)是否屬于營利性的商業(yè)行為，結(jié)合本案，該AI寫作工具的相關(guān)頁面顯示終身會員168元，年會員98元，月會員40元。那它其實是由明確的商業(yè)利益驅(qū)動的?！?/p>

AI寫作工具相關(guān)頁面顯示終身會員是168元

從治理的角度來說，該案判決的生效不僅是對原告合法訴求的回應(yīng)，也明確了生成式人工智能服務(wù)提供者合理的注意義務(wù)邊界，為治理提供了參照準則。小紅書社區(qū)用戶信任中心負責人吉吉表示，平臺始終以真實性與原創(chuàng)價值作為AI內(nèi)容治理的根本標尺。

吉吉說：“對于已經(jīng)打標的AIGC內(nèi)容，我們會通過兩類手段來識別低質(zhì)內(nèi)容，一類是通過平臺。我們過往一直在建設(shè)對于低質(zhì)內(nèi)容識別的模型，在發(fā)布環(huán)節(jié)或者是曝光初期對低質(zhì)內(nèi)容進行識別攔截，這里面包括同質(zhì)化、信息含量低，也包括一些‘擦邊’博眼球的內(nèi)容。另外一個手段是根據(jù)用戶的反饋，比如說用戶的舉報行為，用戶對于筆記點擊不喜歡的行為，來定位今天AIGC的低質(zhì)內(nèi)容?！?/p>

吉吉表示，從治理來說，除平臺進行識別攔截外，更需要AI模型廠商、生成式AI服務(wù)提供者共同承擔主體責任。

吉吉說：“也就是什么類型的、什么樣的內(nèi)容是由AI生成和合成的。因為市場上的生成式模型的能力迭代非?？臁Ｈ绻脩羯蟼鞯膬?nèi)容沒有攜帶模型生成的暗水印或者信息的話，會對我們的識別造成非常大的難度。我們也呼吁，各大模型廠商能夠加強對于生成內(nèi)容的打標規(guī)范?！?/p>

張宗濱認為，未來要關(guān)注模型研發(fā)、內(nèi)容生成到合規(guī)管控等多個環(huán)節(jié)，構(gòu)建全鏈條共治格局。

張宗濱說：“第一個是要確保訓(xùn)練的數(shù)據(jù)和模型設(shè)計合規(guī)，不得將模型定向優(yōu)化為生成特定平臺的違規(guī)內(nèi)容。第二個是要加強風(fēng)險提示和內(nèi)容管控，要以顯著的方式提示AI生成內(nèi)容的局限性，明確禁止用于發(fā)布虛假的信息，也要遵守特定的平臺規(guī)則，限制定向用于特定平臺的違規(guī)的場景。第三是要做好內(nèi)容標識和用戶數(shù)據(jù)保護。第四，要建立投訴舉報機制，對于違法或侵權(quán)的內(nèi)容要及時處置?！?span style="text-indent: 32px; text-wrap: wrap;">（周益帆）