段偉文（中國社會科學(xué)院哲學(xué)所研究員）

所謂人機伴生，要強調(diào)的是在人工智能和機器人的發(fā)展進(jìn)程中，一直通過人與機器的協(xié)同而演化。如果認(rèn)識不到這一點，就很容易忽視人類智能與機器智能的現(xiàn)實關(guān)系，脫離由兩者構(gòu)成的智能生態(tài)談?wù)撈纥c和強人工智能。這就涉及哲學(xué)研究，不僅僅是提供答案或者解決方案，還要對問題本身進(jìn)行分析和重構(gòu)，讓人們能夠從更好地體現(xiàn)實際的視角看到問題的本質(zhì)。

每個人都想成為解決問題的高手，各個學(xué)科提供了各自的視角，而哲學(xué)總在試圖告訴人們，還可以用另外一種方式來面對問題。這就是哲學(xué)的思考，不斷地變換角度，使得從其他角度不顯見的現(xiàn)實得以呈現(xiàn)。

首先，機器人、人工智能不僅是技術(shù)創(chuàng)新，其產(chǎn)生與發(fā)展也伴隨著文化創(chuàng)新。尤其是機器人與機器人文化，一直呈現(xiàn)出共生互動關(guān)系。機器人起初是科幻作品中想象的機器，其中就已經(jīng)投射了對人的價值以及人造生命的風(fēng)險的反思。

1920年，捷克作家恰佩克（Karel ?apek，1890-1938）首先在科幻劇《羅素姆萬能機器人》（Rossum’s Universal Robots（R.U.R））中將幻想的人造人稱為機器人（Roboti/Robots），意思是勞工或苦力。劇中的機器人起初似乎樂意為人類工作，后來卻反叛并導(dǎo)致人類滅絕。在一戰(zhàn)由機械和化學(xué)武器造成的殺戮帶來震驚的余緒中，恰佩克希望借此抗議現(xiàn)代化所帶來的去人性化和對人的生命價值的漠視。此外，他也受到瑪麗·雪萊的長篇小說《弗蘭肯斯坦》的影響，表達(dá)了對人類創(chuàng)造生命的狂妄之舉可能造成的惡果的疑慮。

從某種程度上講，這種懼怕技術(shù)和機器人的技術(shù)文化與機器人文化決定了西方機器人文化的基調(diào)，也成為機器人文化反思與創(chuàng)新的出發(fā)點。此后，比較有代表性的文化創(chuàng)新者有阿西莫夫的機器人定律和日本的機器人文化。20世紀(jì)30—40年代，阿西莫夫著手創(chuàng)作科幻小說時，面對各種機器人故事中過于人性化的“威脅人類的機器人”和“引人同情的機器人”，他看到了另一種可能——由工程師制造的內(nèi)設(shè)安全機制并用于執(zhí)行特定工作的機器人產(chǎn)品，它們既不會威脅人類，亦無從引人同情。

為此，他在《環(huán)舞》等小說中提出了機器人三定律，為理想的機器人設(shè)定了一套假想的可通過機器執(zhí)行的道德體系，讓人們看到機器人是可控的。這就從文化層面大大消除了人們對機器人的恐懼，大大鼓舞了早期機器人的發(fā)展。正是通過阿西莫夫的康德式的機器人倫理創(chuàng)構(gòu)，形成了一種可以平衡 “機器人畏懼”的正面的機器人文化。

再看對機器人充滿信任和好感的日本機器人文化，既沿襲了其神道教與喜愛“機關(guān)人偶”的傳統(tǒng)，也體現(xiàn)了日本發(fā)展有別于西方的機器人文化的意圖。眾所周知，20世紀(jì)70年代以來，日本的機器人文化可謂獨樹一幟。而早在20世紀(jì)20年代，《羅素姆萬能機器人》日文版問世后，旋即在日本引起廣泛關(guān)注。

當(dāng)時有一位名叫西村真琴（1883—1956）的生物學(xué)家和哲學(xué)家不滿西方作品中作為勞動者的實用機器人形象，認(rèn)為人不應(yīng)與人造人對立，主張作為自然之子的人類應(yīng)該將機器人視如己出，與其攜手共進(jìn)以實現(xiàn)萬物平等、和諧共生。

基于這一理念，他于1928年制造了一種他認(rèn)為理想的機器人“學(xué)天則”（學(xué)習(xí)自然法則之意），后在京都、廣島、東京等地巡回展出?！皩W(xué)天則”是一個高、寬均3米多的機器人，它超越了西洋機器人強迫勞動的狀態(tài)，而被設(shè)定為與人類平等的“類人”。當(dāng)然，西村倡導(dǎo)這一東洋機器人文化的初衷，與當(dāng)時日本想在文化上與西方對立不無關(guān)聯(lián)，其中夾雜著軍國主義和民族主義。 

由機器人文化及其創(chuàng)新可見，科技和人文之間存在著一種內(nèi)生關(guān)系：科學(xué)追求的是有意義的真理，技術(shù)旨在解決有價值的問題，知識的生產(chǎn)和機器的部署，都是由人的信念、欲望和意圖驅(qū)動的，是為人服務(wù)的。而科技時代的人文問題的關(guān)鍵恰在于其中呈現(xiàn)出的能動性：科技追尋的是誰的意義和價值，又受誰的信念、欲望和意圖驅(qū)使，具體為誰服務(wù)？比方說，平臺根據(jù)消費者的數(shù)據(jù)畫像進(jìn)行各種推送，但這符合消費者的意愿嗎？如果這會引導(dǎo)消費者的行為，其邊界何在？

談到人工智能或機器人，往往會將其作為一種獨立存在的主體來看待，但實際上它們目前還只是數(shù)據(jù)驅(qū)動的智能體（Agents，又稱智能代理等）。它自身有一套規(guī)則，然后通過環(huán)境數(shù)據(jù)或其他輸入數(shù)據(jù)的獲取和處理進(jìn)行計算和學(xué)習(xí)，獲得認(rèn)知結(jié)果并做出反應(yīng)。我們跟智能機器交互的時候，要認(rèn)識到它們是按照機器的方式來思考的，只能夠讀懂?dāng)?shù)據(jù)。如在進(jìn)行人臉識別時，機器識別的是視頻像素之類的數(shù)據(jù)。而人自身在此過程中也成為賽博物理空間（CPS）中和網(wǎng)絡(luò)數(shù)字平臺上的可識別和交互的智能體。 

目前，這些數(shù)據(jù)驅(qū)動的智能體并不具有意識、自我意識和自由意志，更談不上情感、情緒和同理心，它們在道德行為中遠(yuǎn)不像人那樣是完全的道德主體，不可能單獨為其行為后果承擔(dān)責(zé)任。因此，針對自動駕駛、智能音箱和各種機器人應(yīng)用中的倫理問題，不能簡單地說這是程序、算法或自動機器的錯，應(yīng)由它們負(fù)責(zé)，而只能在人和智能機器構(gòu)成的行動者網(wǎng)絡(luò)中找到背后的設(shè)計者、制造者、部署者和操作者，向相關(guān)人類主體和機構(gòu)追責(zé)。

更進(jìn)一步來講，固然可以從拉圖爾的行動者網(wǎng)絡(luò)理論出發(fā)，探討人類行動者與作為非人類行動者的智能機器的建構(gòu)與形塑，但也必須看到，在智能機器的使用中人類智能與機器智能的協(xié)同。后者恰恰是容易被忽視的智能機器的具體性——這種忽視使得智能機器與人的關(guān)系被簡化為抽象的人工物與人的關(guān)系，而人工智能與機器人倫理的探討不能脫離人與智能機器在具體場景中的關(guān)聯(lián)。 

一方面，要對人類與智能機器的交互環(huán)境即網(wǎng)絡(luò)數(shù)字平臺的運行模式有所認(rèn)識。

在現(xiàn)實世界中有大量的機器人，包括陪伴機器人、聊天機器人、戰(zhàn)爭機器人、賽博格（如外骨骼裝置）等，人和這些數(shù)據(jù)驅(qū)動的智能體越來越多地被聚合在網(wǎng)絡(luò)數(shù)字平臺上。因此，談到數(shù)字技術(shù)和人工智能帶來的隱私泄露，或Face book會不會操縱選舉，不應(yīng)該只是假想個人通信內(nèi)容會不會被偷看，平臺如何有選擇地發(fā)布信息，而應(yīng)關(guān)注元數(shù)據(jù)如何被分析、社交媒體會如何短時間和大面積地影響人的情緒等具體問題。例如，在平臺導(dǎo)流的情況 下，一兩分鐘的視頻評論，會產(chǎn)生幾百萬的流量，這種影響力及其反噬的力量無疑不容小覷。 

另一方面，應(yīng)看到當(dāng)前很多機器智能的應(yīng)用是通過人類智能的眾包與之協(xié)同才得以實現(xiàn)的，這就是人們常說的“有多少人工，就有多少智能”。

在各種人工智能的應(yīng)用場景中，包括網(wǎng)約車、外賣平臺、智能音箱、古文字識別、機器翻譯等，都伴隨著不斷學(xué)習(xí)人類的群體智能而提升機器智能的過程，這實質(zhì)上是人機伴生的社會系統(tǒng)在調(diào)試中運行的過程。比方說，上下班高峰時候，為何滴滴司機要接市中心擁堵路段的訂單？因為那樣他就能夠得到更多的獎勵分?jǐn)?shù)?，F(xiàn)在的導(dǎo)航軟件為什么越來越好用？因為大家都在用。

但同時不難看到，導(dǎo)航的使用改變了人們出行認(rèn)路的方式，即從以往的人類經(jīng)驗學(xué)習(xí)模式轉(zhuǎn)向?qū)?dǎo)航指令的接受與糾錯模式，從而通過反饋和遞歸實現(xiàn)了駕駛等行進(jìn)活動的人機協(xié)同。如果不加反省地依賴導(dǎo)航，人實際上會削弱甚至喪失通過直接經(jīng)驗學(xué)習(xí)的能力，這是不是科技時代人們必須付出的代價？這個問題涉及每個人，要從科技與人類未來的角度加以審視，從而促進(jìn)廣泛深入的社會討論。 

當(dāng)前，認(rèn)識到人工智能通過人機協(xié)同而進(jìn)化具有重要的現(xiàn)實意義：不能只看到機器智能如何先進(jìn)和加速迭代，而應(yīng)該看到人類智能在整體上依然高于機器智能，看到人類智能在此過程中一直發(fā)揮著不可替代的隱形作用。

近年來，學(xué)界對人工智能倫理展開了廣泛的討論，從算法歧視、自動駕駛到負(fù)責(zé)任的人工智能、可解釋的人工智能和可信的人工智能，等等。其中，哲學(xué)界討論得最熱的問題包括：人工智能和機器人能不能成為道德主體？能否通過倫理設(shè)計使人工智能和機器人具有某種機器道德或算法倫理，甚至成為某種道德機器？但對于這些哲學(xué)與倫理學(xué)討論的價值，我保持一定的懷疑態(tài)度。比方說，所謂“電車難題”及其自動駕駛版，會不會始終只是一種哲學(xué)游戲，除了發(fā)表論文，對具體的自動駕駛到底有多大的實際意義？ 

機器人能不能成為道德主體，這涉及機器人的權(quán)利、責(zé)任等道德地位。對這一問題，哲學(xué)與倫理學(xué)一般會訴諸本質(zhì)論的討論，即機器人所具備的本質(zhì)是否使其應(yīng)該擁有道德地位。有人認(rèn)為，機器人只是工具，就像汽車和電視機一樣，談不上什么本質(zhì)，也不具備道德地位。但也有人指出，它不僅僅是工具，還可能具有與人類類似的主體性乃至道德地位。但要在哲學(xué)和倫理學(xué)上對本質(zhì)或?qū)嵸|(zhì)進(jìn)行辨析和論述存在諸多困難。

一方面，相關(guān)論述會運用譜系學(xué)的方法展開探討。如談到權(quán)利，就會追溯人的權(quán)利的發(fā)展過程。比方說，奧德修斯從特洛伊戰(zhàn)爭中歸來后處死了十幾個女奴，那是因為奴隸在那個時候不是具備道德和法律權(quán)利的主體。接著，會運用與論證動物權(quán)利、大自然權(quán)利類似的思路，類推出當(dāng)人工智能與機器人的智能感知達(dá)到某種程度時，也將被賦予權(quán)利、成為道德主體，云云。顯然，這種類推的論證模式的說服力非常有限。

另一方面，相關(guān)論述會直接從機器智能的本質(zhì)探討賦予其道德地位的可能。比方說，若能制造出某種能夠感受到痛苦的“最大似人自動機”（MHA），就應(yīng)該視其為道德主體。但這種討論往往會陷入尷尬境地：如果能夠做出這種機器人，這種建造本身是不是就違背了被造機器人的知情同意權(quán)。概言之，哲學(xué)和倫理學(xué)層面的這些本質(zhì)論的探討，應(yīng)該防止陷入自說自話與自我詰難的話語游戲循環(huán)。 

為了克服工具論、本質(zhì)論等實體論論述的局限，應(yīng)該面向泛智能體社會的現(xiàn)實，從實際的關(guān)系論角度思考人與機器的道德關(guān)系。以中國科技大學(xué)機器人專家陳小平帶領(lǐng)的團(tuán)隊制作的佳佳機器人為例，盡管很多人認(rèn)為目前做不出具有內(nèi)在情感認(rèn)知和真實情感交互能力的機器人，但在陳小平看來，這項工作是有價值的。

從人機情感關(guān)系的角度出發(fā)，人們會把情感投射到機器人上。在與機器人聊天和互動的過程中，不論是長時間的互動， 還是聊著聊著“把天聊死”，都會形成某種情感關(guān)系。例如，現(xiàn)在有一種圓形的掃地機器人，送去維修的時候，有的主婦會跟工程師說，你不要隨便給我換一個新的，你要把我們家的“保羅”給我?guī)Щ貋怼Ｆ渲芯陀幸环N泛主體關(guān)系，有著道德關(guān)系和情感的投射。 

實際上，在阿西莫夫的機器人小說中，并沒有抽象地談?wù)摍C器人定律，而是通過各種故事，構(gòu)想其應(yīng)用于人機關(guān)系遇到的沖突與可能的出路。例如，在《鏡像》中，一位年長的科學(xué)家和一位年輕的科學(xué)家同坐一條船，他們各自有一個陪伴機器人，其中一人談到一個數(shù)學(xué)定理的證明，最后兩人就此內(nèi)容發(fā)表了同樣的論文。在對這一公案進(jìn)行問詢時，兩個機器人的證詞也是一致的：我的主人沒有問題，是對方主人抄襲。小說的名字所反映的就是這種人機關(guān)系的對稱性，而打破這種對稱性就需要道德律之外解決沖突的實踐智慧。 

面對正在來臨的泛智能體社會，需要更進(jìn)一步的倫理設(shè)計與哲學(xué)考量。在此主要談三個方面。

其一，如何設(shè)計和構(gòu)建一種分布式的道德機制。在自動智能武器的討論中，最常見的觀點是要讓人處在自動決策的閉環(huán)之中。但問題是，在戰(zhàn)斗狀況下，一個人監(jiān)控幾十架無人機實際上是不現(xiàn)實的，如何設(shè)計一種對人和機器進(jìn)行全局監(jiān)控和決策的超級監(jiān)控者？還有在自動駕駛與人類駕駛并行的情況下，如何分配責(zé)任？

對此，荷蘭的兩個法庭判例具有一定的啟發(fā)性。一個判例是，法律規(guī)定只能有兩輛自行車同行，第三輛車加入而造成事故時負(fù)主責(zé)，但前面兩輛車也要承擔(dān)一定責(zé)任。類似地，法律規(guī)定港口航道只能兩艘船并行，第三艘船闖入并發(fā)生事故時則需要負(fù)全責(zé)。對比兩個判例可見，在泛智能體社會中的分布式道德機制會同時考慮造成后果的原因以及相關(guān)智能體的能力。因此，不論機器倫理還是機器道德，不應(yīng)停留在自上而下或自下而上的實體論視角，還需從泛智能體社會的智能體之間的關(guān)系展開考察。 

其二，要從智能體的角度反思人類主體性所遇到的挑戰(zhàn)。如今，我們?nèi)找嬷蒙砣祟愔?能與機器智能所構(gòu)成的智能生態(tài)系統(tǒng)之中，人類主體正在轉(zhuǎn)變?yōu)榭梢员粰C器所認(rèn)知的智能體。面對各種智能監(jiān)測，從AI教室到通過人臉識別才能進(jìn)高鐵站，“我”已經(jīng)不再是內(nèi)在的第一人稱的我，而更多的是機器能夠理解與接納的第三人稱的“它”，必須在頭腦里有這種意識才能實現(xiàn)人機協(xié)同。

比方說，進(jìn)高鐵站的時候，我一定要把口罩拉下來，機器才能夠識別出來是不是“我”，而且我還不能特別著急地沖過去，要等機器反應(yīng)過來，才不會撞到閘機。在這個看似自然的過程中，人類主體不能不做一個外在的行動者。什么叫外在的行動者？就是說在泛智能體時代，人與機器的協(xié)同建立在對智能體的數(shù)據(jù)刻畫之上，作為智能體的人只有成為一個可觀察的數(shù)據(jù)才能納入智能系統(tǒng)。

換言之，如果人類不加反思地適應(yīng)這種主體性的外在化，是否意味著這將是一個人變得越來越像機器的過程？假設(shè)對導(dǎo)航能力進(jìn)行圖靈測試，認(rèn)路是人的一種基本智能，50年前，我們要檢測機器能否像人一樣會認(rèn)路。而現(xiàn)在隨著很多人依賴智能導(dǎo)航而喪失認(rèn)路能力，是不是意味著機器的認(rèn)路能力較差才更接近人類智能？如果把人類智能和機器智能孤立起來進(jìn)行對比，就會看到所謂圖靈邊界實際上是在變動的。但從人機協(xié)同的角度看，這種變動是可以解釋和加以調(diào)節(jié)的。總之，對于由此帶來的主體性挑戰(zhàn)的哲學(xué)追問，無疑是泛智能體社會倫理設(shè)計的基礎(chǔ)。 

其三，談?wù)劦赖聶C器，即用智能機器來提升我們的道德水準(zhǔn)。比方說，在上海外灘過馬路時，已經(jīng)有機器提醒你現(xiàn)在是紅燈，甚至有的地方會在大屏幕上顯示違章者的姓名和身份證號，這就是道德機器的雛形。如果要將機器人設(shè)計成道德機器，不僅需要道德語言交互能力，或場景與事件觸發(fā)的對應(yīng)提示機制，還要具有實際環(huán)境中的道德判斷力和預(yù)見力。當(dāng)然，這種道德機器不僅僅是強制性或命令式的，而更多的是行為心理層面的助推或說服。

對此可以提出設(shè)計標(biāo)準(zhǔn)，如能減緩人的破壞傾向，并且給人以安慰；為人提供必要的心理服務(wù)，為人所接受，令人滿意，使人的行為得當(dāng)?shù)?。甚至將來，小孩可以在各種道德機器人或教育機器人的陪伴下成長。但問題是，道德機器究竟根據(jù)什么標(biāo)準(zhǔn)塑造我們？其實，人類本身對于什么是善的，什么是好的，什么是好的教育方式，什么是好的品行等，都缺乏一個固定的衡量標(biāo)準(zhǔn)。 

我們的將來會是什么樣的未來？答案應(yīng)該是實現(xiàn)人和機器的相互協(xié)同與兼容。從機器的角度講，將來的機器會是利他的機器嗎？它會是一種慈悲的機器嗎？會與人類之間產(chǎn)生一種情感依賴嗎？阿西莫夫《機器人短篇小說集》的最后一篇叫《雙百人》，據(jù)此改編的電影名叫《機器人管家》，其中的機器人主人公因為活得太久，目睹過他經(jīng)歷的人紛紛故去，最后寧愿不做機器人而變成了終會逝去的人。

所以，面對智能化的未來，最重要的問題是必須重新思考和構(gòu)建人性。最近，人工智能學(xué)家斯圖爾特·羅素（Stuart Russell）寫了本新書《AI新生》，其中談到未來的人工智能應(yīng)該純粹利他、更加謙卑、學(xué)會學(xué)習(xí)和預(yù)測人類的偏好，等等。在我看來，最終還是要立足于人機關(guān)系的維度，構(gòu)建我們想要的合乎倫理的未來——人類而不是機器人擁有未來的未來。

（本文根據(jù)2020年7月南京信息工程大學(xué)主辦的“人工智能：理論闡釋與實踐觀照”專題研討會發(fā)言整理成文，發(fā)表于《閱江學(xué)刊》2021年第4期。）