人工智能發(fā)展太快了，如今滿屏滿網(wǎng)，從文字到照片，從聲音到圖像，AI無所不在。由此帶來的真?zhèn)沃嬉卜路鹨粓觥按蚬钟螒颉?，難度逐漸升級。近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》），將從2025年9月1日起施行。

日益開放的AI技術(shù)，讓更多普通人都可以自由使用，但它的副作用也很明顯，就是降低了違法門檻。一位江西老人差點(diǎn)被AI合成的“假靳東”騙走200萬元，還有人冒充醫(yī)生帶貨、冒充經(jīng)濟(jì)學(xué)家薦股、冒充朋友借錢、冒充家人詐騙……《IT時報》在調(diào)查AI造假案例時發(fā)現(xiàn)，“AI換臉”軟件只需9.9元，記者花10分鐘便能輕松“變身”另一人，且生成的視頻順利在多個平臺發(fā)布并傳播。

《標(biāo)識辦法》規(guī)定所有AI生成的內(nèi)容必須加上“顯式”和“隱式”兩種標(biāo)識：顯式標(biāo)識就像包裝上的物品名稱，用戶一眼就能看清“是什么”，而隱式標(biāo)識則像隱藏在產(chǎn)品背后的二維碼或防偽標(biāo)識，便于平臺監(jiān)管與追責(zé)。這是一種“雙保險”設(shè)計，能有效提高AI內(nèi)容的透明度和可追溯性，讓普通用戶免于上當(dāng)受騙的風(fēng)險。

除了明確標(biāo)識方式，《標(biāo)識辦法》還分別加強(qiáng)了服務(wù)提供者和傳播平臺的責(zé)任，意在重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環(huán)節(jié)的全流程安全管理。明確每一個環(huán)節(jié)的責(zé)任者，才能最大限度避免被人鉆空子。

有必要提醒，任何管理辦法都要具備可操作性。比如，有人建議在文本內(nèi)容中增加隱式標(biāo)識，在多媒體文件中添加數(shù)字水印，但存在技術(shù)難點(diǎn)或可能增加企業(yè)成本。正因如此，該辦法不作強(qiáng)制要求，而是提供了文本符號標(biāo)識、音頻節(jié)奏標(biāo)識、文件元數(shù)據(jù)標(biāo)識等成本更低、更易執(zhí)行的替代方案。

AI生成與AI檢測是矛與盾的關(guān)系，相對來說，檢測技術(shù)具有滯后性。比如，一些不法分子可能通過技術(shù)手段篡改或刪除標(biāo)識，通過境外未監(jiān)管的平臺發(fā)布內(nèi)容，或通過更隱蔽的私人社群傳播，以此逃避監(jiān)管。更何況，技術(shù)手段只是為了更方便識別，不等于給所有人“上保險”。就像最近曝光的冒充經(jīng)濟(jì)學(xué)家陳志武教人炒股的“殺豬盤”，偽造身份只是騙局的一部分，真正讓人上當(dāng)?shù)?，是高達(dá)58%的巨額“預(yù)期收益”誘惑。這種騙局，僅靠技術(shù)標(biāo)識，不足以完全幫助人們抵御受騙風(fēng)險。

無論如何，《標(biāo)識辦法》給人工智能這條“高速路”裝上了“安全護(hù)欄”，以免輕易“脫軌”，但面對AI技術(shù)帶來的治理風(fēng)險，除了不斷在技術(shù)上尋求突圍，以及完善相關(guān)法律和政策之外，還需要持續(xù)提升公眾的媒介素養(yǎng)與認(rèn)知能力。說到底，欺騙人的不是AI，而是人。那么，識別騙局的主體，最終也要還原到人。

馬青 來源：中國青年報