重視AI安全，不是給這輛疾馳向未來的列車套上枷鎖，而是鋪平軌道，讓其沿著健康可持續(xù)的方向，跑得更快、更穩(wěn)

　　

　　人工智能浪潮奔涌向前，帶來前所未有的發(fā)展機(jī)遇，也帶來不容忽視的風(fēng)險(xiǎn)挑戰(zhàn)?！奥曇艨寺　睂?dǎo)致電信詐騙防不勝防，“換臉視頻”引發(fā)的造謠誹謗時(shí)有出現(xiàn)，“AI幻覺”讓生成內(nèi)容真假難辨……今天，技術(shù)的“雙刃劍”效應(yīng)愈發(fā)具象化。經(jīng)濟(jì)合作與發(fā)展組織數(shù)據(jù)顯示，2024年AI風(fēng)險(xiǎn)事件總數(shù)比2022年增加了約21.8倍，并呈快速發(fā)展態(tài)勢。

　　有人認(rèn)為，當(dāng)下正值A(chǔ)I搶位發(fā)展關(guān)鍵期，不應(yīng)做過多限制；有人則覺得，技術(shù)問題會隨發(fā)展自行得到解決，不必過早干涉。其實(shí)不然。要看到，一方面，“先放手后治理”，可能讓“小風(fēng)險(xiǎn)”逐步疊加，變?yōu)椤按髥栴}”，治理代價(jià)會更大；另一方面，規(guī)范并不等于“設(shè)限”，如果放任技術(shù)沿著有違公序良俗、有悖產(chǎn)業(yè)規(guī)律的方向狂奔，有可能導(dǎo)致錯(cuò)失發(fā)展良機(jī)。重視AI安全，不是給這輛疾馳向未來的列車套上枷鎖，而是鋪平軌道，讓其沿著健康可持續(xù)的方向，跑得更快、更穩(wěn)。

　　習(xí)近平總書記指出：“要把握人工智能發(fā)展趨勢和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，構(gòu)建技術(shù)監(jiān)測、風(fēng)險(xiǎn)預(yù)警、應(yīng)急響應(yīng)體系，確保人工智能安全、可靠、可控?！甭鋵?shí)好這一重要要求，才能平衡技術(shù)發(fā)展與安全，推動(dòng)人工智能更好造福社會。

　　技術(shù)每前進(jìn)一步，治理就要跟進(jìn)一步。時(shí)時(shí)有邊界，技術(shù)方能在合理框架內(nèi)有序前行，不越界；規(guī)矩跟得上，技術(shù)才會在正確軌道上穩(wěn)健發(fā)展，不逾矩。技術(shù)發(fā)展的歷程，也應(yīng)是政策法規(guī)不斷完善的過程。

　　持續(xù)織密安全防護(hù)網(wǎng)，既要為發(fā)展劃定紅線，也要為創(chuàng)新留足空間。從發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，實(shí)行包容審慎和分類分級監(jiān)管；到公布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，要求給相關(guān)AI內(nèi)容“進(jìn)行顯著標(biāo)識”；再到印發(fā)《人工智能生成合成內(nèi)容標(biāo)識辦法》，推進(jìn)從生成到傳播全鏈條治理……近年來，以網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法等為依據(jù)，AI領(lǐng)域的政策文件不斷出臺，推動(dòng)人工智能治理沿著法治軌道向前邁進(jìn)。始終跟隨技術(shù)前進(jìn)的步伐動(dòng)態(tài)完善政策法規(guī)，方能實(shí)現(xiàn)促進(jìn)發(fā)展和依法管理的有機(jī)統(tǒng)一。

　　企業(yè)是推動(dòng)人工智能發(fā)展的重要力量，也是直面用戶的第一道安全防線，必須擔(dān)負(fù)起主體責(zé)任。人工智能技術(shù)日新月異，但無論形勢如何變化，情況如何復(fù)雜，“技術(shù)向善”應(yīng)始終是企業(yè)追求的原則。以生成式人工智能為例，騰訊宣布，對違規(guī)“AI洗稿”發(fā)文行為的主體進(jìn)行限制和清理；抖音明確，對不當(dāng)利用AI生成虛擬人物的內(nèi)容嚴(yán)格處罰；今日頭條披露，2024年處理低質(zhì)AI內(nèi)容超93萬條。企業(yè)“立規(guī)矩、明邊界”，既有效防范了風(fēng)險(xiǎn)，也促進(jìn)了生成式人工智能健康發(fā)展。企業(yè)增強(qiáng)責(zé)任感，不斷擰緊“安全閥”、系緊“安全帶”，確保技術(shù)進(jìn)步服務(wù)于人、造福于人，才能在激烈市場競爭中贏得信任和支持。

　　發(fā)展的問題要靠發(fā)展來解決。以技術(shù)對技術(shù)，以技術(shù)管技術(shù)，才能真正筑牢安全的底線。針對AI造假，合合信息推出新型檢測技術(shù)，可捕捉圖像篡改過程中留下的細(xì)微痕跡，慧眼辨?zhèn)危幻嫦蚓W(wǎng)絡(luò)詐騙，浙江一團(tuán)隊(duì)開發(fā)“電子標(biāo)識”，嵌入的音視頻若被用于AI加工，就會觸發(fā)“引信”，破壞生成后的內(nèi)容；奇富科技研發(fā)智能風(fēng)控系統(tǒng)，2024年發(fā)布AI反詐提醒13.8萬次，勸阻潛在被騙者超2.9萬人。善用“技防”，以技術(shù)之盾抵御技術(shù)之矛，“通過魔法打敗魔法”，安全防護(hù)會更及時(shí)、更智能、更高效。

　　在規(guī)范中釋放活力，在創(chuàng)新中筑牢防線，這是保障人民群眾合法權(quán)益的必需，也是推動(dòng)我國人工智能健康有序發(fā)展的必然。

　　《 人民日報(bào) 》（ 2025年06月16日 09 版）

分享讓更多人看到