日前，四部門(mén)聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱(chēng)《辦法》），規(guī)范了人工智能生成合成的內(nèi)容標(biāo)識(shí)，以保護(hù)公民、法人和其他組織合法權(quán)益，促進(jìn)人工智能健康發(fā)展。

今年初，隨著DeepSeek等AI應(yīng)用爆火出圈，各行各業(yè)都迫不及待探索AI在各自領(lǐng)域的應(yīng)用，期待通過(guò)AI提升效率、創(chuàng)造新價(jià)值。

然而，面對(duì)洶涌而來(lái)的AI應(yīng)用熱潮，一些亂象也引起了人們的關(guān)注。比如：AI生產(chǎn)的虛假信息對(duì)受眾產(chǎn)生誤導(dǎo)、污染輿論空間；不法分子利用越來(lái)越逼真的AI生成技術(shù)仿冒他人、實(shí)施詐騙。再如在電商領(lǐng)域：部分不良商家靠AI假圖和低價(jià)吸引消費(fèi)者下單，但“貨不對(duì)板”；部分直播間用AI造假背景偽裝“工廠發(fā)貨”，對(duì)消費(fèi)者構(gòu)成欺騙；部分投機(jī)取巧的商家借助AI大量盜取原創(chuàng)商家的圖片，毫不費(fèi)力地惡意抄款，加劇行業(yè)競(jìng)爭(zhēng)?？梢哉f(shuō)，面對(duì)AI造假現(xiàn)象，不同行業(yè)面臨著不同的現(xiàn)實(shí)問(wèn)題。

《辦法》的出臺(tái)旨在防控人工智能（以下簡(jiǎn)稱(chēng)AI）技術(shù)造假、濫用現(xiàn)象?；ヂ?lián)網(wǎng)平臺(tái)是AI生成信息的主要傳播媒介，平臺(tái)理當(dāng)是治理的中堅(jiān)力量?！掇k法》規(guī)定了相關(guān)內(nèi)容的標(biāo)識(shí)規(guī)范，并且明確規(guī)定了相關(guān)平臺(tái)的審核、檢驗(yàn)責(zé)任?！掇k法》出臺(tái)后，平臺(tái)也開(kāi)始積極響應(yīng)。如快手、豆包等內(nèi)容平臺(tái)開(kāi)始在信息流中標(biāo)注AI生成字樣，提醒消費(fèi)者注意甄別。再如，淘寶通過(guò)模型識(shí)別，攔截失真的AI假圖上傳；明確嚴(yán)禁利用AI等技術(shù)合成方式，呈現(xiàn)顯著失真與實(shí)際不符的商品信息效果圖。

值得一提的是，不同于資訊、娛樂(lè)內(nèi)容，商品圖片直接關(guān)系到消費(fèi)決策，AI的應(yīng)用應(yīng)當(dāng)本著提高消費(fèi)體驗(yàn)、促進(jìn)原創(chuàng)等原則，否則很容易淪為黑灰產(chǎn)的“助攻”。若使用AI假圖宣推產(chǎn)品現(xiàn)象泛濫，將直接傷害消費(fèi)者的消費(fèi)體驗(yàn)、消費(fèi)意愿，打擊誠(chéng)信經(jīng)營(yíng)的商家的經(jīng)營(yíng)信心，也將無(wú)法實(shí)現(xiàn)“品質(zhì)電商”的目標(biāo)。電商平臺(tái)完善規(guī)范、推出治理措施，值得肯定。但要最大限度降低AI濫用影響、還消費(fèi)領(lǐng)域清朗空間，還需全社會(huì)的支持和努力。

“該如何兼顧技術(shù)進(jìn)步和倫理規(guī)范”等問(wèn)題愈加現(xiàn)實(shí)和迫切，只有秉持發(fā)展與安全兼顧的原則，才可能讓AI真正服務(wù)于美好生活。人必須有價(jià)值判斷、相關(guān)的企業(yè)和平臺(tái)必須有價(jià)值取向，防控AI應(yīng)用亂象應(yīng)盡早，要各盡其責(zé)。

分享讓更多人看到