人工智能的蓬勃發(fā)展，不僅是國家戰(zhàn)略，也是生活實踐的需要。在傳染病流行時，如果醫(yī)療機(jī)器人能夠輔助治療，比如遠(yuǎn)程問診、智能送藥等，那么它必能在傳染病防治中保護(hù)醫(yī)護(hù)人員并節(jié)約許多資源。但如果機(jī)器人并非輔助治療而是擔(dān)任主治，根據(jù)其深度學(xué)習(xí)的診斷標(biāo)準(zhǔn)誤判了病況，并致使患者死亡，我們應(yīng)該向誰問責(zé)？醫(yī)院、醫(yī)生、患者、家屬、制造商、銷售商、開發(fā)者還是機(jī)器人本身？

　　以備受矚目的無人駕駛汽車為例，如果其處于一種必須做出選擇的經(jīng)典道德情境中，即面臨一種需要“殺一救五（多）”的情境，比如前面有五位或者多位行人穿行馬路，需要做出決策：要么自動駕駛汽車轉(zhuǎn)向讓車和毀掉司機(jī)以保護(hù)行人安全，要么保全自動駕駛汽車以保全司機(jī)。經(jīng)典研究發(fā)現(xiàn)，如果確實為了保護(hù)行人車毀人亡的話，人們只會將很少的道德責(zé)任歸咎于這輛無人駕駛汽車。大多數(shù)人認(rèn)為就應(yīng)該這樣做，但諷刺的是，大多數(shù)人也表示如果這樣就不會去購買這輛汽車。這便存在一個悖論，即希望人工智能做出功利主義決策，但在實際生活中又不希望它發(fā)生在自己身上。

　　其實，人類并不希望人工智能輔助決策，當(dāng)然也包括道德決策。各種研究表明，人類會對人工智能做出的決策產(chǎn)生厭惡。人們不喜歡人工智能在自動駕駛、法律、醫(yī)療和軍事方面做出與生死相關(guān)的道德決策，哪怕這些決策最終被認(rèn)為是正確的，結(jié)果是好的、積極的。事實上，人類對人工智能在某種意義上存在道德規(guī)范上的歧視。究其原因，這可能是人類在對待人工智能時使用了人類的道德規(guī)則。那么，如何消除這種歧視，是否可以形成一套穩(wěn)固的、不同于人類的人工智能道德規(guī)范呢？

　　我們的研究早已發(fā)現(xiàn)，中國人偏好做出道德相對主義判斷。這是因為中國人具有一種樸素的辯證思想，即認(rèn)為正反兩面都對的道德原則。這種思維方式容忍矛盾互斥的觀點同時存在，能夠消除人們處于道德兩難困境中的焦慮和不安。辯證思維與道德相對主義二者都有一個關(guān)鍵的特性，即對矛盾的包容。道德判斷過程中認(rèn)為正反兩面皆對，且會隨著關(guān)系、環(huán)境的變化而變化的辯證思維方式，正是道德相對主義的表現(xiàn)。

　　對于人工智能而言，能否形成一種不同于人類的道德規(guī)則？雖然人工智能的道德規(guī)則可能與人類現(xiàn)有的道德規(guī)則相抵觸，但人類依然可用道德相對主義的眼光去看待它，以解決人工智能的倫理決策問題。這是一種解決問題之道，但卻相當(dāng)困難。心理學(xué)研究表明，在人類認(rèn)知中，人們傾向于將人工智能當(dāng)作孩子（甚至是不足4歲的孩子）來看待。而兒童正處于道德刻板之時，這也可以部分解釋為什么人類不希望人工智能來做出道德判斷，因為人類也不太希望由孩子來輔助他做出道德決策。

　　一方面，兒童沒有能力做出道德相對主義判斷。目前的實證研究證據(jù)表明，道德相對主義傾向會隨著年齡的增大而變強(qiáng)。相對于兒童，成人更加傾向于道德相對主義。學(xué)生從七年級到大學(xué)階段，道德相對主義程度會逐漸提高。這可能是由于學(xué)生在這個階段要離開家人，他們要學(xué)習(xí)新的知識，獨立地生活，思維也變得更加靈活。有研究考察了5歲、7歲和9歲的兒童在道德、品味、事實以及模棱兩可的事實四個領(lǐng)域中，對不同命題所表現(xiàn)出來的相對主義程度。在每個領(lǐng)域的任務(wù)中，均向兒童呈現(xiàn)A和B兩個人對某一命題的判斷結(jié)果，且這兩種觀點是相互矛盾的。然后，研究者讓兒童進(jìn)行判斷（如：你覺得A和B的說法只有一個人是正確的，還是A和B的說法都是正確的？）。結(jié)果顯示，在道德與事實領(lǐng)域，兒童更傾向于做出客觀主義判斷；在模棱兩可的事實領(lǐng)域，他們的相對主義程度較高；而在品味領(lǐng)域，選擇相對主義答案的人最多，且兒童年齡越大越傾向于做出相對主義判斷。還有研究讓4歲至6歲的孩子對道德問題、美學(xué)問題和常識進(jìn)行對錯判斷，這個年齡段的兒童對于道德問題的判斷與后兩種問題不同，他們對道德問題會更加傾向于做出客觀主義判斷。還有研究者讓大學(xué)生判斷來自不同文化的兩個人針對“打人”這一事件的不同看法，其中一個人認(rèn)為打人是對的，而另一個人認(rèn)為打人是錯的。研究者提供給被試三個選項，分別表述了認(rèn)同前者是對的、認(rèn)同后者是對的以及兩者可能都對。結(jié)果發(fā)現(xiàn)，大學(xué)生更傾向于認(rèn)為兩者可能都對，也就是更多地做出道德相對主義判斷。這些研究都表明，兒童更加傾向于道德客觀主義，而成人則更加傾向于道德相對主義，說明道德相對主義傾向會隨著年齡的增長而增強(qiáng)。

　　另一方面，人類并不希望兒童做出道德相對主義判斷。皮亞杰關(guān)注道德發(fā)展，認(rèn)為9歲至11歲的兒童處于道德發(fā)展的他律階段，在這一階段，兒童表現(xiàn)出某種形式的道德絕對主義，而到了自律階段后，兒童才有做出道德相對主義判斷的可能?？聽柌裢晟屏怂珊妥月傻膮^(qū)分標(biāo)準(zhǔn)，認(rèn)為只用這兩級水平來解釋兒童的道德發(fā)展是不全面的，于是他便提出了新的道德發(fā)展階段論，即前習(xí)俗水平（兒童會先依據(jù)一定的規(guī)范來做道德判斷，進(jìn)而發(fā)展到依據(jù)事情是否有利來進(jìn)行道德判斷）、習(xí)俗水平（包含人際協(xié)調(diào)以及維護(hù)權(quán)威或秩序兩個階段，開始重視社會規(guī)范的作用）、后習(xí)俗水平（從社會規(guī)范發(fā)展到更多參考經(jīng)由內(nèi)化而形成的道德信念來做出道德判斷）?？聽柌竦牡赖掳l(fā)展理論已經(jīng)隱含道德相對主義的概念。在習(xí)俗階段，人們接受的是一般性的、具體的道德原則，受到外界的道德規(guī)范的約束。而發(fā)展到最后一個階段，當(dāng)?shù)赖乱?guī)則具有自主性時，這樣的道德規(guī)則合適與否完全是由人們自己進(jìn)行判斷的。如果對這一階段進(jìn)行界定，理應(yīng)對應(yīng)道德相對主義，只是柯爾伯格并未明確提出這一概念與研究問題。柯爾伯格的理論在某種程度上是實然的，但其實也是應(yīng)然的，即某種程度上它提示人們，到了某個階段時就應(yīng)該有某種道德發(fā)展的可能。按照這樣的邏輯，人類實際上并不希望兒童會做出道德判斷。

　　將針對兒童的研究結(jié)果放在人工智能的討論中，可以推斷人工智能（現(xiàn)階段）沒有能力做出道德相對主義判斷，且人類也不希望人工智能做出道德相對主義判斷。換句話說，人類在心理上不希望人工智能根據(jù)不同于人類世界的道德規(guī)則來進(jìn)行道德決策，人類自身同時也不希望人工智能秉持一種完全不同于人類的獨特道德規(guī)則做出行為。

　　（本文系教育部人文社科基金青年項目“文化混搭與道德相對主義”（17XJC190001）、教育部人文社科基金青年項目“理性行動的認(rèn)知規(guī)范研究”（19YJC720006）階段性成果）

　　（作者單位：湖北經(jīng)濟(jì)學(xué)院馬克思主義學(xué)院；西安交通大學(xué)哲學(xué)系）

來源：中國社會科學(xué)網(wǎng)-中國社會科學(xué)報　作者：韓婷婷 丁曉軍