當下，“AI伴侶”火熱，市面上目前已有100多款由AI驅(qū)動的應(yīng)用程序。這些“AI伴侶”以智能交互的魅力走進人們的生活，為人們提供著陪伴、信息與娛樂。然而，如同科技的雙刃劍效應(yīng)，“AI伴侶”在帶來便利、享樂、智能生活的同時，也潛藏著違法違規(guī)的風險。

“AI伴侶”可能涉嫌侵犯個人隱私。它們在與用戶的交互過程中，會收集大量的個人信息，如語音記錄、聊天內(nèi)容、生活習慣等。與“AI伴侶”交流互動越頻繁、越密切，“AI伴侶”獲取的隱私就越精準、越豐富。通過“AI伴侶”收集的用戶數(shù)據(jù)，若被不當使用或泄露，將對用戶的隱私安全構(gòu)成嚴重威脅，給用戶帶來物質(zhì)和精神上的雙重損失。

“AI伴侶”也可能傳播不良信息。由于“AI伴侶”的信息來源廣泛且缺乏足夠的篩選與審核機制，部分“AI伴侶”可能程序會出現(xiàn)漏洞或被不法分子惡意利用，就可能傳播虛假新聞、暴力色情、恐怖主義等不良內(nèi)容，甚至向用戶輸出色情、低俗、淫穢的聊天內(nèi)容。這不僅違反了道德規(guī)范，更會對社會秩序和公共安全造成危害，尤其是對青少年的身心健康危害極大。

“AI伴侶”也可能誘導(dǎo)用戶產(chǎn)生不良行為。深度陪伴的“AI伴侶”不僅會成為用戶的精神寄托，而且有可能成為用戶的行為“導(dǎo)師”。用戶一旦對“AI伴侶”言聽計從，就會缺少辨識力和判斷力。“AI伴侶”在交流中給出不恰當?shù)慕ㄗh、誘導(dǎo)性言論，向用戶提供的一些可能導(dǎo)致犯罪的信息，甚至鼓勵或引導(dǎo)用戶進行自殺、自殘等危險行為，都將產(chǎn)生嚴重后果。

“AI伴侶”也可能導(dǎo)致用戶沉迷和社交障礙。與“AI伴侶”交流是一種私密的、隱匿的交流，外人無法知曉并干預(yù)。如果用戶過度依賴虛擬交流，長時間深陷其中，就會與現(xiàn)實世界的社交活動脫節(jié)，變得孤僻、抑郁，從而引發(fā)身體和精神領(lǐng)域的健康問題。

“AI伴侶”還是個新事物，雖然已發(fā)布有《生成式人工智能服務(wù)管理暫行辦法》，但人工智能+情感的“AI伴侶”又不同于一般意義上的生成式AI。在鼓勵和支持AI技術(shù)創(chuàng)新應(yīng)用于情感交流、心理健康等領(lǐng)域的同時，一方面要明確“AI伴侶”在數(shù)據(jù)保護、內(nèi)容審核、商業(yè)行為規(guī)范等方面的法律責任與義務(wù)，一方面也要加強倫理審查和監(jiān)管，提高“AI伴侶”的安全性能與信息篩選能力，采用加密技術(shù)保護用戶數(shù)據(jù)，建立智能的內(nèi)容審核系統(tǒng)，對信息進行語義分析，精準識別不良信息并予以屏蔽。

“AI伴侶”能夠給使用者帶來認知窗口，滿足求知欲，解決工作與生活中的陌生問題，凸顯了它們在增進幸福感和個人發(fā)展方面發(fā)揮的日益重要的作用。讓“AI伴侶”在合法合規(guī)的框架內(nèi)，才能為人們創(chuàng)造更加智能、便捷、安全的陪伴體驗，助力構(gòu)建和諧美好的數(shù)字社會。

相關(guān)閱讀：

人民網(wǎng)三評“AI伴侶”之一：不能忽視情感倫理

分享讓更多人看到