近期，網(wǎng)絡(luò)上出現(xiàn)了一批“一鍵生成爆款種草筆記”的AI寫作工具，這些工具以極低的成本，批量炮制虛假消費體驗和商品推薦。近日，中央網(wǎng)信辦部署開展“清朗·整治AI應(yīng)用亂象”專項行動，聚焦利用AI技術(shù)生成“數(shù)字泔水”、制作發(fā)布虛假信息等問題，堅決清理違法不良信息，依法處置處罰違規(guī)賬號、MCN機(jī)構(gòu)和網(wǎng)站平臺。

調(diào)研發(fā)現(xiàn)：三成用戶對AIGC內(nèi)容接受度不高

“輸入幾個關(guān)鍵詞，AI幫你全自動寫出爆款種草文案”在各大短視頻平臺和二手交易網(wǎng)站上，“利用AI自動化起號”“批量做矩陣號”成了不少網(wǎng)絡(luò)課程的噱頭。

記者搜索發(fā)現(xiàn)，類似的課程及工具在網(wǎng)絡(luò)上有不少，在二手平臺，花幾毛錢就可以買到破解版軟件及教學(xué)視頻。

在網(wǎng)絡(luò)投訴平臺上，一款被多位消費者投訴的AI寫作助手，終身會員199元，提供工作總結(jié)、論文撰寫、小說創(chuàng)作、短視頻腳本、社交平臺筆記標(biāo)題生成等上百種服務(wù)，記者僅輸入筆記主題，不到一分鐘的時間，該款工具生成了20個“爆款標(biāo)題”。在商品推薦文案功能中，輸入商品名稱、品牌等幾個要素，可以瞬間生成幾百字的種草筆記。這些偽裝成真人親測的分享內(nèi)容，在生成的過程中，不需要任何真實出行經(jīng)歷、產(chǎn)品使用體驗，完全由AI杜撰、虛構(gòu)。

無論是對于平臺、創(chuàng)作者還是龐大的用戶群體，AI批量生成的低質(zhì)內(nèi)容都會帶來前所未有的沖擊。

某社交平臺社區(qū)用戶信任中心負(fù)責(zé)人介紹，在做大范圍用戶調(diào)研時發(fā)現(xiàn)，有接近三成的用戶對于AIGC的內(nèi)容接受度并不高。

全國首例涉AI代寫“種草筆記”不正當(dāng)競爭案宣判

近日，浙江省杭州市中級人民法院披露了一起涉及某社交平臺AI批量代寫種草筆記典型案例，作為全國首例涉及AI代寫“種草筆記”的不正當(dāng)競爭案件，判決為生成式人工智能服務(wù)提供者劃定了合理的注意義務(wù)邊界。

據(jù)介紹，原告是知名社交平臺的經(jīng)營者，該平臺規(guī)則和平臺公約均強(qiáng)調(diào)要真實體驗和經(jīng)歷分享，本案被告B公司和C公司共同運(yùn)營一款A(yù)I寫作工具，該工具可定向為用戶提供上述社交平臺風(fēng)格的種草文案、旅游攻略等內(nèi)容的一鍵生成服務(wù)，并誘導(dǎo)用戶發(fā)布文案到該社交平臺。原告認(rèn)為被告的行為破壞了該社交平臺真實的種草內(nèi)容生態(tài)，向法院提起訴訟，要求后者停止著作權(quán)侵權(quán)及不正當(dāng)競爭行為。

法官助理 張宗濱：本案被訴的這個AI寫作工具，有網(wǎng)頁版、App、微信小程序三種版本。它的熱門模塊直接展示了某社交平臺種草文案、旅游攻略、筆記標(biāo)題等服務(wù)模塊，并且服務(wù)模塊的名稱直接采用了該社交平臺相關(guān)的命名，并直接使用根據(jù)產(chǎn)品特點幫你生成“符合平臺調(diào)性的分享文案”等宣傳語。點擊一鍵創(chuàng)作就可以直接生成一篇幾百字繪聲繪色的一個文案的內(nèi)容。

張宗濱介紹，本案的核心爭議焦點主要是：針對該社交平臺定向提供生成式人工智能服務(wù)是否構(gòu)成不正當(dāng)競爭。《中華人民共和國反不正當(dāng)競爭法》第二條規(guī)定，不正當(dāng)競爭行為是指經(jīng)營者在生產(chǎn)經(jīng)營活動中，違反本法規(guī)定，擾亂市場競爭秩序，損害其他經(jīng)營者或者消費者的合法權(quán)益的行為。

隨著我國《網(wǎng)絡(luò)反不正當(dāng)競爭暫行規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識辦法》等文件落地，國家層面對AI服務(wù)提供者的合規(guī)義務(wù)提出了明確要求：此類服務(wù)應(yīng)當(dāng)尊重知識產(chǎn)權(quán)、商業(yè)道德。在審理中，法院首先明確了原告通過長期經(jīng)營積累的真實內(nèi)容生態(tài)，屬于受法律保護(hù)的競爭性權(quán)益。

張宗濱：A公司通過長期的經(jīng)營，投入了大量的成本、人力、物力，產(chǎn)生和積累了大量的種草筆記內(nèi)容，形成了以真實體驗為核心的種草內(nèi)容生態(tài)。這個生態(tài)也是其獲得商業(yè)利益和競爭優(yōu)勢的核心資源，所以我們認(rèn)為《中華人民共和國反不正當(dāng)競爭法》可以保護(hù)的競爭性權(quán)益。

而基于生成式人工智能服務(wù)的特點，被告無論是從行為方式還是行為目的來說，沒有盡到合理注意義務(wù)。

張宗濱介紹，在本案中，法院創(chuàng)新性地提出了“四要素判定法”，判決被告B、C公司賠償原告經(jīng)濟(jì)損失及合理開支共計10萬元。

第一，被訴服務(wù)是否屬于生成式人工智能服務(wù)。

第二，被訴服務(wù)是否以特定場景作為應(yīng)用層？結(jié)合到本案當(dāng)中來，被訴服務(wù)的模塊名稱直接使用了某知名平臺種草文案等表述，并且它是以該社交平臺作為特定的商業(yè)應(yīng)用層，而并非通用的AI工具。

第三，被訴服務(wù)是否帶有明確的指向性和誘導(dǎo)性？結(jié)合本案當(dāng)中被訴的服務(wù)模塊，都是要誘導(dǎo)用戶發(fā)布未經(jīng)真實體驗的相關(guān)的文案的內(nèi)容。

第四，關(guān)于被訴服務(wù)是否屬于營利性的商業(yè)行為，結(jié)合到本案當(dāng)中，該AI寫作工具的相關(guān)頁面就顯示終身會員是168元，年會員是98元，月會員是40元，具有明確的商業(yè)利益驅(qū)動。

從治理的角度來說，該案判決的生效不僅是對原告合法訴求的回應(yīng)，也明確了生成式人工智能服務(wù)提供者合理的注意義務(wù)邊界，為治理提供了參照準(zhǔn)則。

張宗濱認(rèn)為，未來要關(guān)注模型研發(fā)、內(nèi)容生成到合規(guī)管控等多個環(huán)節(jié)，形成全鏈條共治格局。

首先，要確保訓(xùn)練的數(shù)據(jù)和模型設(shè)計合規(guī)，不得將模型定向優(yōu)化為生成特定平臺的違規(guī)內(nèi)容。

第二，要加強(qiáng)風(fēng)險提示和內(nèi)容管控，要以顯著的方式提示AI生成內(nèi)容的局限性，明確禁止用于發(fā)布虛假的信息，也要遵守特定的平臺規(guī)則，限制定向用于特定平臺的違規(guī)的場景。

第三，要做好內(nèi)容標(biāo)識和用戶數(shù)據(jù)保護(hù)。

第四，要建立投訴舉報機(jī)制，對于違法或侵權(quán)的內(nèi)容要及時處置。

監(jiān)制丨劉黎黎 李行健

記者丨周益帆 于晨 劉暢