■人與人工智能的關(guān)系，既不是主體與客體之間的關(guān)系，也不是主體之間的關(guān)系，而是一種主體與類主體之間的關(guān)系。

■信息技術(shù)已滲透到人們的日常生活，也深度融入國(guó)家治理、社會(huì)治理的過程中，對(duì)于實(shí)現(xiàn)美好生活、提升國(guó)家治理能力、促進(jìn)社會(huì)道德進(jìn)步發(fā)揮著越來越重要的作用。

■在可以預(yù)見的將來，人工智能將重塑生產(chǎn)力、生產(chǎn)關(guān)系、生產(chǎn)方式，重構(gòu)社會(huì)關(guān)系、生活方式。

■從整體上看，應(yīng)對(duì)信息化深入發(fā)展導(dǎo)致的倫理風(fēng)險(xiǎn)，應(yīng)當(dāng)遵循服務(wù)人類原則、安全可靠原則、以人為本原則、公開透明原則。

習(xí)近平同志指出，當(dāng)前，以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能為代表的新一代信息技術(shù)日新月異，給各國(guó)經(jīng)濟(jì)社會(huì)發(fā)展、國(guó)家管理、社會(huì)治理、人民生活帶來重大而深遠(yuǎn)的影響。現(xiàn)代信息技術(shù)的深入發(fā)展和廣泛應(yīng)用，深刻改變著人類的生存方式和社會(huì)交往方式，深刻影響著人們的思維方式、價(jià)值觀念和道德行為。

信息時(shí)代的倫理變革

信息化正在廣泛而深刻地影響和改變著人類社會(huì)，它不僅對(duì)人類引以為榮的智能唯一性發(fā)出有力挑戰(zhàn)，而且有可能動(dòng)搖人類的道德主體地位。

目前，智能機(jī)器已獲得深度學(xué)習(xí)能力，可以識(shí)別、模仿人的情緒，能獨(dú)立應(yīng)對(duì)問題等。那么，智能機(jī)器能否算作“人”？人與智能機(jī)器之間的關(guān)系應(yīng)當(dāng)如何定位、如何處理？智能機(jī)器應(yīng)當(dāng)為其行為承擔(dān)怎樣的責(zé)任？智能機(jī)器的設(shè)計(jì)者、制造者、所有者和使用者又應(yīng)當(dāng)為其行為承擔(dān)怎樣的責(zé)任？人們會(huì)不會(huì)設(shè)計(jì)、制造并使用旨在控制他人的智能機(jī)器？這樣的情況一旦出現(xiàn)，人類將面臨怎樣的命運(yùn)？這一系列問題關(guān)乎人倫關(guān)系的根本性質(zhì)和價(jià)值基礎(chǔ)，也關(guān)乎人類整體的終極命運(yùn)。

在傳統(tǒng)意義上，人與物的關(guān)系是主體與客體的關(guān)系。信息時(shí)代，人工智能創(chuàng)造物已不僅僅是技術(shù)化的工具，而是越來越具有類似于人類思維的能力，甚至在某些方面具有超越人類思維的能力。可以說人與人工智能創(chuàng)造物的關(guān)系，既不是主體與客體之間的關(guān)系，也不是主體之間的關(guān)系，而是一種主體與類主體之間的關(guān)系。例如，倘若自動(dòng)駕駛汽車出了交通事故，該由誰承擔(dān)責(zé)任？面對(duì)諸如此類的問題倫理學(xué)應(yīng)該如何確立“倫”與“理”？從倫理學(xué)角度看，當(dāng)大數(shù)據(jù)和人工智能的發(fā)展改變甚至顛覆人類活動(dòng)的主體地位時(shí)，傳統(tǒng)倫理就會(huì)發(fā)生解構(gòu)，人具有排他性主體地位的倫理時(shí)代就可能結(jié)束。

信息時(shí)代的倫理進(jìn)步

信息技術(shù)已滲透到人們的日常生活中，也深度融入國(guó)家治理、社會(huì)治理的過程中，對(duì)于實(shí)現(xiàn)美好生活、提升國(guó)家治理能力、促進(jìn)社會(huì)道德進(jìn)步發(fā)揮著越來越重要的作用。

信息化深入發(fā)展有助于改善政府部門與人民群眾的關(guān)系。比如，在政務(wù)服務(wù)領(lǐng)域，各地積極推進(jìn)“互聯(lián)網(wǎng)+政務(wù)服務(wù)”，推出“最多跑一次”事項(xiàng)清單，甚至部分事項(xiàng)“一趟不用跑”，打通政務(wù)服務(wù)的“最后一公里”，實(shí)現(xiàn)“讓數(shù)據(jù)多跑路、讓群眾少跑腿”，不斷增強(qiáng)人民群眾的獲得感幸福感安全感。又如，在反腐敗領(lǐng)域，各地探索運(yùn)用互聯(lián)網(wǎng)、大數(shù)據(jù)和信息化手段，通過微信、微博、手機(jī)客戶端等新媒體，讓失德官員無處躲藏，權(quán)力運(yùn)行更加陽光。

信息化深入發(fā)展為最大程度實(shí)現(xiàn)社會(huì)公平提供技術(shù)條件。例如，在教育領(lǐng)域，信息技術(shù)打破時(shí)空藩籬，讓即便身在地球兩端的學(xué)生也能同上一堂課；打破城鄉(xiāng)壁壘，讓農(nóng)村孩子有機(jī)會(huì)與城里孩子享受到同等教育資源；打破線上線下界限，讓學(xué)習(xí)無處不在、課堂互動(dòng)“永不下線”，進(jìn)一步促進(jìn)優(yōu)質(zhì)資源共享和教育公平。

信息化深入發(fā)展擴(kuò)大社會(huì)交往，提出更高的倫理道德要求。傳統(tǒng)的社會(huì)交往主要局限于相對(duì)狹小的熟人范圍，人們之所以遵守倫理道德很大程度上是因?yàn)橄鄬?duì)狹小的熟人圈子中無所不在的外在監(jiān)督，并且一些人對(duì)倫理道德的信守主要局限于相對(duì)狹小的熟人圈子，對(duì)圈子之外的人則未必守信。現(xiàn)代社會(huì)交往日益突破傳統(tǒng)的熟人交往范圍，建基于強(qiáng)大信息技術(shù)的互聯(lián)網(wǎng)進(jìn)一步打破傳統(tǒng)交往的時(shí)空限制，使之成為普遍性的社會(huì)交往。這就要求人們具備更高程度的道德自律、更高程度的寬容與尊重，從而促進(jìn)形成以普遍的誠實(shí)、守信為價(jià)值基礎(chǔ)的現(xiàn)代社會(huì)公德。

互聯(lián)網(wǎng)是一個(gè)實(shí)時(shí)、動(dòng)態(tài)、開放的社交平臺(tái)，各種悖德行為一旦曝光，就會(huì)在很短時(shí)間內(nèi)遭到廣泛的輿論譴責(zé)，在使悖德行為者承受壓力的同時(shí)，讓更多人受到潛移默化的教化。尤其是自媒體的廣泛興起，讓人們隨時(shí)隨地能將身邊的人和事拍攝下來、發(fā)到網(wǎng)上，更廣泛有效地發(fā)揮社會(huì)輿論的監(jiān)督、譴責(zé)與教化作用。

信息化深入發(fā)展使包括身份信息和行為信息在內(nèi)的各類信息變得更透明、更對(duì)稱、更完整，大大提升了對(duì)悖德行為乃至違法犯罪行為的防控、識(shí)別、監(jiān)督、追究與懲處能力。例如，居民身份證存儲(chǔ)著個(gè)人信息并實(shí)現(xiàn)全國(guó)聯(lián)網(wǎng)，入住酒店、乘坐交通工具、購置房產(chǎn)以及其他一些有必要知曉行為人身份的行為或業(yè)務(wù)往來，都要求提供身份證明；政府部門借助發(fā)達(dá)的網(wǎng)絡(luò)和信息傳遞技術(shù)，廣泛而及時(shí)地向人們公布、推送失信人或其他違法犯罪分子的相關(guān)信息；重要公共場(chǎng)所安裝高清攝像頭，有的場(chǎng)所則配置更為先進(jìn)的人臉識(shí)別技術(shù)。這使得悖德行為者及違法犯罪分子處于無所不在的監(jiān)控之下而無處遁形，促使人們更審慎地權(quán)衡利弊并盡可能地減少、規(guī)避失信行為或其他違法犯罪行為，有效維護(hù)、鞏固和增進(jìn)以誠信為基礎(chǔ)的主流倫理道德。

信息時(shí)代的道德風(fēng)險(xiǎn)

在可以預(yù)見的將來，人工智能將重塑生產(chǎn)力、生產(chǎn)關(guān)系、生產(chǎn)方式，重構(gòu)社會(huì)關(guān)系、生活方式。

實(shí)際上，人工智能算法帶來的歧視隱蔽而又影響深遠(yuǎn)。信息的不對(duì)稱、不透明以及信息技術(shù)不可避免的知識(shí)技術(shù)門檻，客觀上會(huì)導(dǎo)致并加劇信息壁壘、數(shù)字鴻溝等違背社會(huì)公平原則的現(xiàn)象與趨勢(shì)。如何縮小數(shù)字鴻溝以增進(jìn)人類整體福利、保障社會(huì)公平，這是一個(gè)具有世界性意義的倫理價(jià)值難題。

信息技術(shù)在加速大數(shù)據(jù)傳播、搜集、共享的同時(shí)，也為一些國(guó)家或組織利用網(wǎng)絡(luò)霸權(quán)干涉別國(guó)內(nèi)政或?qū)嵤┚W(wǎng)絡(luò)攻擊提供了漏洞和暗網(wǎng)，嚴(yán)重威脅國(guó)家主權(quán)和安全。因此，防范數(shù)據(jù)霸權(quán)是信息時(shí)代維護(hù)國(guó)家主權(quán)的重要內(nèi)容。

互聯(lián)網(wǎng)時(shí)代出現(xiàn)的一些現(xiàn)象和趨勢(shì)，應(yīng)當(dāng)引起高度重視。例如，有些人沉迷于網(wǎng)絡(luò)虛擬世界，厭棄現(xiàn)實(shí)世界中的人際交往。這種去倫理化的生存方式，從根本上否定傳統(tǒng)社會(huì)倫理生活的意義和價(jià)值，放棄自身的倫理主體地位以及相應(yīng)的倫理責(zé)任擔(dān)當(dāng)，已經(jīng)觸及價(jià)值觀念基礎(chǔ)這一更為根本的層面。

應(yīng)對(duì)信息時(shí)代倫理風(fēng)險(xiǎn)的道德原則

習(xí)近平同志強(qiáng)調(diào)：“要整合多學(xué)科力量，加強(qiáng)人工智能相關(guān)法律、倫理、社會(huì)問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德。”面對(duì)信息技術(shù)的迅猛發(fā)展，有效應(yīng)對(duì)信息技術(shù)帶來的倫理挑戰(zhàn)，需要深入研究思考并樹立正確的道德觀、價(jià)值觀和法治觀。從整體上看，應(yīng)對(duì)信息化深入發(fā)展導(dǎo)致的倫理風(fēng)險(xiǎn)應(yīng)當(dāng)遵循以下道德原則。

服務(wù)人類原則。要確保人類始終處于主導(dǎo)地位，始終將人造物置于人類的可控范圍，避免人類的利益、尊嚴(yán)和價(jià)值主體地位受到損害，確保任何信息技術(shù)特別是具有自主性意識(shí)的人工智能機(jī)器持有與人類相同的基本價(jià)值觀。始終堅(jiān)守不傷害人自身的道德底線，追求造福人類的正確價(jià)值取向。

安全可靠原則。新一代信息技術(shù)尤其是人工智能技術(shù)必須是安全、可靠、可控的，要確保民族、國(guó)家、企業(yè)和各類組織的信息安全、用戶的隱私安全以及與此相關(guān)的政治、經(jīng)濟(jì)、文化安全。如果某一項(xiàng)科學(xué)技術(shù)可能危及人的價(jià)值主體地位，那么無論它具有多大的功用性價(jià)值，都應(yīng)果斷叫停。對(duì)于科學(xué)技術(shù)發(fā)展，應(yīng)當(dāng)進(jìn)行嚴(yán)謹(jǐn)審慎的權(quán)衡與取舍。

以人為本原則。信息技術(shù)必須為廣大人民群眾帶來福祉、便利和享受，而不能為少數(shù)人所專享。要把新一代信息技術(shù)作為滿足人民基本需求、維護(hù)人民根本利益、促進(jìn)人民長(zhǎng)遠(yuǎn)發(fā)展的重要手段。同時(shí)，保證公眾參與和個(gè)人權(quán)利行使，鼓勵(lì)公眾提出質(zhì)疑或有價(jià)值的反饋，從而共同促進(jìn)信息技術(shù)產(chǎn)品性能與質(zhì)量的提高。

公開透明原則。新一代信息技術(shù)的研發(fā)、設(shè)計(jì)、制造、銷售等各個(gè)環(huán)節(jié)，以及信息技術(shù)產(chǎn)品的算法、參數(shù)、設(shè)計(jì)目的、性能、限制等相關(guān)信息，都應(yīng)當(dāng)是公開透明的，不應(yīng)當(dāng)在開發(fā)、設(shè)計(jì)過程中給智能機(jī)器提供過時(shí)、不準(zhǔn)確、不完整或帶有偏見的數(shù)據(jù)，以避免人工智能機(jī)器對(duì)特定人群產(chǎn)生偏見和歧視。

（作者為中國(guó)倫理學(xué)會(huì)副會(huì)長(zhǎng)） 

《 人民日?qǐng)?bào) 》（ 2019年07月12日 09 版）