當前，以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能為代表的新一代信息技術(shù)蓬勃發(fā)展，深刻改變著人類的生存方式和社會交往方式，有可能帶來倫理風險。我們應(yīng)當認真研究思考并樹立正確的道德觀、價值觀和法治觀，有效提升公眾誠信意識和社會信用水平，統(tǒng)籌兼顧人工智能應(yīng)用和個人隱私保護。本期觀察版的幾篇文章圍繞信息時代的倫理挑戰(zhàn)進行探討。

——編  者  

---

信息時代的倫理審視（人民觀察）

曾建平

■人與人工智能的關(guān)系，既不是主體與客體之間的關(guān)系，也不是主體之間的關(guān)系，而是一種主體與類主體之間的關(guān)系。

■信息技術(shù)已滲透到人們的日常生活，也深度融入國家治理、社會治理的過程中，對于實現(xiàn)美好生活、提升國家治理能力、促進社會道德進步發(fā)揮著越來越重要的作用。

■在可以預(yù)見的將來，人工智能將重塑生產(chǎn)力、生產(chǎn)關(guān)系、生產(chǎn)方式，重構(gòu)社會關(guān)系、生活方式。

■從整體上看，應(yīng)對信息化深入發(fā)展導(dǎo)致的倫理風險，應(yīng)當遵循服務(wù)人類原則、安全可靠原則、以人為本原則、公開透明原則。

習近平同志指出，當前，以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能為代表的新一代信息技術(shù)日新月異，給各國經(jīng)濟社會發(fā)展、國家管理、社會治理、人民生活帶來重大而深遠的影響。現(xiàn)代信息技術(shù)的深入發(fā)展和廣泛應(yīng)用，深刻改變著人類的生存方式和社會交往方式，深刻影響著人們的思維方式、價值觀念和道德行為。

信息時代的倫理變革

信息化正在廣泛而深刻地影響和改變著人類社會，它不僅對人類引以為榮的智能唯一性發(fā)出有力挑戰(zhàn)，而且有可能動搖人類的道德主體地位。

目前，智能機器已獲得深度學習能力，可以識別、模仿人的情緒，能獨立應(yīng)對問題等。那么，智能機器能否算作“人”？人與智能機器之間的關(guān)系應(yīng)當如何定位、如何處理？智能機器應(yīng)當為其行為承擔怎樣的責任？智能機器的設(shè)計者、制造者、所有者和使用者又應(yīng)當為其行為承擔怎樣的責任？人們會不會設(shè)計、制造并使用旨在控制他人的智能機器？這樣的情況一旦出現(xiàn)，人類將面臨怎樣的命運？這一系列問題關(guān)乎人倫關(guān)系的根本性質(zhì)和價值基礎(chǔ)，也關(guān)乎人類整體的終極命運。

在傳統(tǒng)意義上，人與物的關(guān)系是主體與客體的關(guān)系。信息時代，人工智能創(chuàng)造物已不僅僅是技術(shù)化的工具，而是越來越具有類似于人類思維的能力，甚至在某些方面具有超越人類思維的能力�？梢哉f人與人工智能創(chuàng)造物的關(guān)系，既不是主體與客體之間的關(guān)系，也不是主體之間的關(guān)系，而是一種主體與類主體之間的關(guān)系。例如，倘若自動駕駛汽車出了交通事故，該由誰承擔責任？面對諸如此類的問題倫理學應(yīng)該如何確立“倫”與“理”？從倫理學角度看，當大數(shù)據(jù)和人工智能的發(fā)展改變甚至顛覆人類活動的主體地位時，傳統(tǒng)倫理就會發(fā)生解構(gòu)，人具有排他性主體地位的倫理時代就可能結(jié)束。

信息時代的倫理進步

信息技術(shù)已滲透到人們的日常生活中，也深度融入國家治理、社會治理的過程中，對于實現(xiàn)美好生活、提升國家治理能力、促進社會道德進步發(fā)揮著越來越重要的作用。

信息化深入發(fā)展有助于改善政府部門與人民群眾的關(guān)系。比如，在政務(wù)服務(wù)領(lǐng)域，各地積極推進“互聯(lián)網(wǎng)+政務(wù)服務(wù)”，推出“最多跑一次”事項清單，甚至部分事項“一趟不用跑”，打通政務(wù)服務(wù)的“最后一公里”，實現(xiàn)“讓數(shù)據(jù)多跑路、讓群眾少跑腿”，不斷增強人民群眾的獲得感幸福感安全感。又如，在反腐敗領(lǐng)域，各地探索運用互聯(lián)網(wǎng)、大數(shù)據(jù)和信息化手段，通過微信、微博、手機客戶端等新媒體，讓失德官員無處躲藏，權(quán)力運行更加陽光。

信息化深入發(fā)展為最大程度實現(xiàn)社會公平提供技術(shù)條件。例如，在教育領(lǐng)域，信息技術(shù)打破時空藩籬，讓即便身在地球兩端的學生也能同上一堂課；打破城鄉(xiāng)壁壘，讓農(nóng)村孩子有機會與城里孩子享受到同等教育資源；打破線上線下界限，讓學習無處不在、課堂互動“永不下線”，進一步促進優(yōu)質(zhì)資源共享和教育公平。

信息化深入發(fā)展擴大社會交往，提出更高的倫理道德要求。傳統(tǒng)的社會交往主要局限于相對狹小的熟人范圍，人們之所以遵守倫理道德很大程度上是因為相對狹小的熟人圈子中無所不在的外在監(jiān)督，并且一些人對倫理道德的信守主要局限于相對狹小的熟人圈子，對圈子之外的人則未必守信�，F(xiàn)代社會交往日益突破傳統(tǒng)的熟人交往范圍，建基于強大信息技術(shù)的互聯(lián)網(wǎng)進一步打破傳統(tǒng)交往的時空限制，使之成為普遍性的社會交往。這就要求人們具備更高程度的道德自律、更高程度的寬容與尊重，從而促進形成以普遍的誠實、守信為價值基礎(chǔ)的現(xiàn)代社會公德。

互聯(lián)網(wǎng)是一個實時、動態(tài)、開放的社交平臺，各種悖德行為一旦曝光，就會在很短時間內(nèi)遭到廣泛的輿論譴責，在使悖德行為者承受壓力的同時，讓更多人受到潛移默化的教化。尤其是自媒體的廣泛興起，讓人們隨時隨地能將身邊的人和事拍攝下來、發(fā)到網(wǎng)上，更廣泛有效地發(fā)揮社會輿論的監(jiān)督、譴責與教化作用。

信息化深入發(fā)展使包括身份信息和行為信息在內(nèi)的各類信息變得更透明、更對稱、更完整，大大提升了對悖德行為乃至違法犯罪行為的防控、識別、監(jiān)督、追究與懲處能力。例如，居民身份證存儲著個人信息并實現(xiàn)全國聯(lián)網(wǎng)，入住酒店、乘坐交通工具、購置房產(chǎn)以及其他一些有必要知曉行為人身份的行為或業(yè)務(wù)往來，都要求提供身份證明；政府部門借助發(fā)達的網(wǎng)絡(luò)和信息傳遞技術(shù)，廣泛而及時地向人們公布、推送失信人或其他違法犯罪分子的相關(guān)信息；重要公共場所安裝高清攝像頭，有的場所則配置更為先進的人臉識別技術(shù)。這使得悖德行為者及違法犯罪分子處于無所不在的監(jiān)控之下而無處遁形，促使人們更審慎地權(quán)衡利弊并盡可能地減少、規(guī)避失信行為或其他違法犯罪行為，有效維護、鞏固和增進以誠信為基礎(chǔ)的主流倫理道德。

信息時代的道德風險

在可以預(yù)見的將來，人工智能將重塑生產(chǎn)力、生產(chǎn)關(guān)系、生產(chǎn)方式，重構(gòu)社會關(guān)系、生活方式。

實際上，人工智能算法帶來的歧視隱蔽而又影響深遠。信息的不對稱、不透明以及信息技術(shù)不可避免的知識技術(shù)門檻，客觀上會導(dǎo)致并加劇信息壁壘、數(shù)字鴻溝等違背社會公平原則的現(xiàn)象與趨勢。如何縮小數(shù)字鴻溝以增進人類整體福利、保障社會公平，這是一個具有世界性意義的倫理價值難題。

信息技術(shù)在加速大數(shù)據(jù)傳播、搜集、共享的同時，也為一些國家或組織利用網(wǎng)絡(luò)霸權(quán)干涉別國內(nèi)政或?qū)嵤┚W(wǎng)絡(luò)攻擊提供了漏洞和暗網(wǎng)，嚴重威脅國家主權(quán)和安全。因此，防范數(shù)據(jù)霸權(quán)是信息時代維護國家主權(quán)的重要內(nèi)容。

互聯(lián)網(wǎng)時代出現(xiàn)的一些現(xiàn)象和趨勢，應(yīng)當引起高度重視。例如，有些人沉迷于網(wǎng)絡(luò)虛擬世界，厭棄現(xiàn)實世界中的人際交往。這種去倫理化的生存方式，從根本上否定傳統(tǒng)社會倫理生活的意義和價值，放棄自身的倫理主體地位以及相應(yīng)的倫理責任擔當，已經(jīng)觸及價值觀念基礎(chǔ)這一更為根本的層面。

應(yīng)對信息時代倫理風險的道德原則

習近平同志強調(diào)：“要整合多學科力量，加強人工智能相關(guān)法律、倫理、社會問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德�！泵鎸π畔⒓夹g(shù)的迅猛發(fā)展，有效應(yīng)對信息技術(shù)帶來的倫理挑戰(zhàn)，需要深入研究思考并樹立正確的道德觀、價值觀和法治觀。從整體上看，應(yīng)對信息化深入發(fā)展導(dǎo)致的倫理風險應(yīng)當遵循以下道德原則。

服務(wù)人類原則。要確保人類始終處于主導(dǎo)地位，始終將人造物置于人類的可控范圍，避免人類的利益、尊嚴和價值主體地位受到損害，確保任何信息技術(shù)特別是具有自主性意識的人工智能機器持有與人類相同的基本價值觀。始終堅守不傷害人自身的道德底線，追求造福人類的正確價值取向。

安全可靠原則。新一代信息技術(shù)尤其是人工智能技術(shù)必須是安全、可靠、可控的，要確保民族、國家、企業(yè)和各類組織的信息安全、用戶的隱私安全以及與此相關(guān)的政治、經(jīng)濟、文化安全。如果某一項科學技術(shù)可能危及人的價值主體地位，那么無論它具有多大的功用性價值，都應(yīng)果斷叫停。對于科學技術(shù)發(fā)展，應(yīng)當進行嚴謹審慎的權(quán)衡與取舍。

以人為本原則。信息技術(shù)必須為廣大人民群眾帶來福祉、便利和享受，而不能為少數(shù)人所專享。要把新一代信息技術(shù)作為滿足人民基本需求、維護人民根本利益、促進人民長遠發(fā)展的重要手段。同時，保證公眾參與和個人權(quán)利行使，鼓勵公眾提出質(zhì)疑或有價值的反饋，從而共同促進信息技術(shù)產(chǎn)品性能與質(zhì)量的提高。

公開透明原則。新一代信息技術(shù)的研發(fā)、設(shè)計、制造、銷售等各個環(huán)節(jié)，以及信息技術(shù)產(chǎn)品的算法、參數(shù)、設(shè)計目的、性能、限制等相關(guān)信息，都應(yīng)當是公開透明的，不應(yīng)當在開發(fā)、設(shè)計過程中給智能機器提供過時、不準確、不完整或帶有偏見的數(shù)據(jù)，以避免人工智能機器對特定人群產(chǎn)生偏見和歧視。

（作者為中國倫理學會副會長）

---

確保安全、可靠、可控

兼顧人工智能應(yīng)用和隱私保護（勢所必然）

楊 明

作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，人工智能正在深刻影響社會生活、改變發(fā)展格局。同時，人工智能如同一把“雙刃劍”，如果應(yīng)用不當，就可能帶來隱私泄露的倫理風險。如何在人工智能應(yīng)用中兼顧隱私保護，確保安全、可靠、可控，是一項亟須關(guān)注的倫理課題。

人工智能應(yīng)用存在隱私泄露的倫理風險。人工智能應(yīng)用需要以海量的個人信息數(shù)據(jù)作支撐。數(shù)據(jù)是人工智能的基礎(chǔ)，正是由于大數(shù)據(jù)的使用、算力的提高和算法的突破，人工智能才能快速發(fā)展、廣泛應(yīng)用，并呈現(xiàn)出深度學習、跨界融合、人機協(xié)同、群智開放、自主操控等新特征。人工智能越是“智能”，就越需要獲取、存儲、分析更多的個人信息數(shù)據(jù)�？梢哉f，海量信息數(shù)據(jù)是人工智能迭代升級不可缺少的“食糧”。獲取和處理海量信息數(shù)據(jù)，不可避免會涉及個人隱私保護這一重要倫理問題。今天，各類數(shù)據(jù)信息采集無時不有、無處不在，幾乎每個人都被置于數(shù)字化空間之中，個人隱私極易以數(shù)據(jù)的形式被存儲、復(fù)制、傳播，如個人身份信息數(shù)據(jù)、網(wǎng)絡(luò)行為軌跡數(shù)據(jù)以及對數(shù)據(jù)處理分析形成的偏好信息、預(yù)測信息等�？梢灶A(yù)見，在不遠的未來，越來越多的人工智能產(chǎn)品將走進千家萬戶，在給人們生活帶來便利的同時，也會輕易獲取更多有關(guān)個人隱私的數(shù)據(jù)信息。借助獲取的數(shù)據(jù)信息，基于日益強大的數(shù)據(jù)整合、處理能力，人工智能技術(shù)可以為用戶精準“畫像”，而其中就潛藏著不容忽視的隱私泄露風險。如果人工智能應(yīng)用得不到合理管控，人類將被置于隱私“裸奔”的尷尬境地，從而產(chǎn)生嚴重的倫理風險。

人工智能應(yīng)用與隱私保護并非不可兼得。盡管人工智能應(yīng)用在一定程度上存在隱私泄露的風險，但這并不意味著它與隱私保護之間是絕對對立的關(guān)系。一方面，人工智能應(yīng)用決不能以隱私泄露為代價。隱私權(quán)不容侵犯，它既是公民的基本權(quán)利，也是社會文明進步的顯著標志。有效保護隱私有利于人們維護人格尊嚴、保持心情舒暢，有利于促進人的全面發(fā)展。人工智能技術(shù)無論如何發(fā)展、發(fā)展到什么程度，歸根結(jié)底都是為了輔助人、服務(wù)人，為使用者提供便利，而不能成為肆意損害人格權(quán)利、惡意泄露個人隱私的工具。這是人工智能應(yīng)用必須堅守的底線，否則人工智能技術(shù)就會失去價值，也難以走遠。另一方面，不能因為存在隱私泄露的倫理風險，就延緩甚至放棄人工智能應(yīng)用。目前，人工智能應(yīng)用得到世界主要國家的高度重視，被認為是科技創(chuàng)新的下一個“超級風口”，具有溢出帶動性很強的“頭雁”效應(yīng)。在一定程度上講，誰把握住了人工智能技術(shù)，誰就把握住了未來。加快發(fā)展新一代人工智能技術(shù)，是我國發(fā)展必須牢牢抓住的寶貴機遇。我們既要有效防范倫理風險，又要加快人工智能技術(shù)發(fā)展。事實上，人工智能應(yīng)用與個人隱私保護之間并不是非此即彼的關(guān)系，完全可以通過多種手段從倫理層面對人工智能應(yīng)用加以正確引導(dǎo)，將隱私泄露的風險降至最低。作為一種新興技術(shù)，人工智能本身并無善惡、對錯之分，關(guān)鍵在于使用者能否在符合倫理規(guī)范的前提下對其進行正當應(yīng)用。隱私泄露現(xiàn)象是人工智能應(yīng)用不當導(dǎo)致的，從深層看則大多是利益驅(qū)動的結(jié)果。所以，不能將隱私泄露簡單歸為技術(shù)層面的問題，也不能簡單歸咎于人工智能。

在推進人工智能應(yīng)用中加強隱私保護。習近平同志強調(diào)，要加強人工智能發(fā)展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。在人工智能應(yīng)用中加強隱私保護，需要加強人工智能應(yīng)用的風險研判和防范，綜合運用技術(shù)創(chuàng)新、倫理規(guī)范、法律制度等手段方式，防止其“野蠻生長”，確保在符合倫理規(guī)范的前提下實現(xiàn)人工智能健康發(fā)展。在技術(shù)層面，要加快研發(fā)和應(yīng)用隱私保護的安全技術(shù)，可將用戶隱私保護需求嵌入人工智能系統(tǒng)設(shè)計中，讓最大限度保護隱私成為系統(tǒng)的默認規(guī)則。在倫理層面，要探索和確立保護個人隱私的原則。2019年6月17日，我國新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，要求人工智能發(fā)展應(yīng)尊重和保護個人隱私，充分保障個人的知情權(quán)和選擇權(quán)。人工智能從業(yè)人員要樹立社會主義核心價值觀，加強自律，規(guī)范技術(shù)應(yīng)用的標準、流程、方法，最大限度尊重和保護個人隱私。在法律層面，應(yīng)加快制定加強隱私保護的法規(guī)制度。當前，我國隱私保護法律體系還不能完全適應(yīng)人工智能發(fā)展需求，應(yīng)在相關(guān)法律法規(guī)中進一步強化隱私權(quán)保護，并在條件成熟時制定針對人工智能應(yīng)用中保護公民隱私的法律條文細則，充分保障公民在人工智能應(yīng)用中的知情權(quán)和選擇權(quán)，嚴格規(guī)范人工智能應(yīng)用中個人信息的收集、存儲、處理、使用等程序，反對竊取、篡改、泄露和其他非法收集利用個人信息的行為。

（作者為南京藝術(shù)學院教授、江蘇省倫理學會執(zhí)行會長）

---

網(wǎng)絡(luò)誠信建設(shè)刻不容緩（觀察者說）

孫偉平

人無信不立，業(yè)無信不興，國無信不強。誠信是公眾必須具備的基本素養(yǎng)，也是文明社會不可或缺的基石。進入信息時代，快速發(fā)展的信息技術(shù)讓人們生產(chǎn)生活更便捷、通信交流更暢通、信息獲取更方便，但也帶來了不同形式、不同程度的誠信缺失問題。信息時代呼喚誠信，迫切需要讓誠實守信成為全社會的高度共識和行為自覺。

進入信息時代，智能手機、移動互聯(lián)網(wǎng)、在線社交軟件等日益普及，大數(shù)據(jù)、云計算、物聯(lián)網(wǎng)、人工智能、區(qū)塊鏈等新興科技快速發(fā)展。截至2018年底，我國網(wǎng)民規(guī)模達到8.29億，互聯(lián)網(wǎng)普及率達到59.6%。數(shù)字經(jīng)濟規(guī)模達到31萬億元，約占國內(nèi)生產(chǎn)總值的1/3。《數(shù)字中國建設(shè)發(fā)展報告（2018年）》顯示，2018年31個省市區(qū)信息化發(fā)展指數(shù)平均達到67.15%，比上年提升4.88%。借助信息技術(shù)，人們在家中指尖輕點就可遠程購物、遠程學習、遠程就醫(yī)，“互聯(lián)網(wǎng)+政務(wù)服務(wù)”讓社會治理更加智能化、精準化、科學化。從迭出爆款的新媒體到熱點不斷的網(wǎng)絡(luò)綜藝，從如火如荼的電子商務(wù)到改變生活的共享經(jīng)濟，信息技術(shù)正在為社會生活帶來越來越多的精彩和便利。

但也要看到，同其他新技術(shù)一樣，信息技術(shù)具有明顯的雙刃劍效應(yīng)，正當使用帶來的是便利，不正當使用則會造成嚴重的倫理風險，這其中就包括誠信缺失問題。例如，利用信息技術(shù)，一些不法分子盜用他人社交賬號詐騙錢財；極少數(shù)商家通過瘋狂刷單來偽造好評；少數(shù)新媒體一味求快，未經(jīng)調(diào)查核實就發(fā)布信息，導(dǎo)致新聞時有“反轉(zhuǎn)”；等等。出現(xiàn)這些問題，一方面表明在信息時代少數(shù)人誠實守信的“螺絲帽”擰得還不夠緊，另一方面反映出社會誠信建設(shè)仍存在一些亟須補齊的短板。

信息時代之所以出現(xiàn)誠信缺失問題，主要有以下幾方面原因：從技術(shù)層面看，信息技術(shù)具有數(shù)字化、虛擬化、開放性等特點，借助信息技術(shù)，人與人之間的交流更多呈現(xiàn)符號化、超地域性、隱匿性等特征。這讓人際交往似乎進入一個互不熟識、缺少監(jiān)督的“陌生人社會”，從而使一些人放松或忽視了誠信自律，做出失信行為。從利益驅(qū)動層面看，少數(shù)門戶網(wǎng)站、自媒體重經(jīng)濟效益輕社會效益，為最大程度攫取經(jīng)濟利益不惜當“標題黨”，甚至傳遞虛假信息，惡意透支社會信用。從體制機制層面看，相較于快速更新迭代的信息技術(shù)，誠信監(jiān)督體系建設(shè)比較滯后，對失信者的威懾和懲戒還不夠及時、有力，甚至在個別領(lǐng)域存在“牛欄關(guān)貓”的現(xiàn)象，從而讓失信者有機可乘，造成誠信缺失問題。

中華優(yōu)秀傳統(tǒng)文化歷來具有講誠信、重承諾的優(yōu)良傳統(tǒng)。我們黨一貫高度重視誠信建設(shè)，將誠信作為社會主義核心價值觀的重要內(nèi)容之一，把說老實話、辦老實事、做老實人作為立身做人、干事創(chuàng)業(yè)的基本準則�！叭硕鵁o信，不知其可也”。如果聽任誠信缺失現(xiàn)象蔓延，不僅會帶來社會信息交流不暢，而且會導(dǎo)致人與人之間缺乏必要的信任感，甚至會出現(xiàn)信任危機。

在信息技術(shù)快速發(fā)展的當下，有效提升公眾誠信意識和社會信用水平，關(guān)鍵是加強網(wǎng)絡(luò)誠信建設(shè)，堅持法治與德治并舉、線上與線下聯(lián)動，推動網(wǎng)絡(luò)誠信建設(shè)法規(guī)越來越嚴密、覆蓋越來越廣泛、要求越來越嚴格。要在不斷完善頂層設(shè)計、解決突出問題、形成長效機制上下功夫，打好網(wǎng)絡(luò)誠信建設(shè)“組合拳”，綜合運用互聯(lián)網(wǎng)、大數(shù)據(jù)、云計算、人工智能等信息技術(shù)手段，廣泛發(fā)動公眾監(jiān)督舉報網(wǎng)上失信行為，開展誠信等級評價，動態(tài)發(fā)布誠實守信“光榮榜”和失信者“黑名單”，讓誠實守信者受到尊重，令失信違約者處處受限，在人人參與、多元共治中大力營造誠實守信的健康網(wǎng)絡(luò)生態(tài)。

（作者為上海大學社會科學學部主任、馬克思主義學院院長）

《 人民日報 》（ 2019年07月12日 09 版）

分享讓更多人看到