圓桌會(huì)議 · 編者按

“自造人”：主體性思維的夢(mèng)想

趙汀陽(yáng) | 中國(guó)社會(huì)科學(xué)院哲學(xué)研究所研究員

本文原載《探索與爭(zhēng)鳴》2018年第12期，編排順序以刊物原文為準(zhǔn)

文中圖片非經(jīng)注明來(lái)源于網(wǎng)絡(luò)

盡管基因科學(xué)和人工智能從一開(kāi)始就在理論上敞開(kāi)了不確定的未來(lái)，埋下了未知的風(fēng)險(xiǎn)，但在過(guò)去的六七十年里，基因科學(xué)和人工智能無(wú)論前進(jìn)還是停滯，都不是十分激動(dòng)人心的消息，因?yàn)榫嚯x成功或危險(xiǎn)似乎都很遙遠(yuǎn)。近年來(lái)開(kāi)始有了真正驚人的消息，比如阿法狗的出現(xiàn)，可見(jiàn)實(shí)踐使問(wèn)題尖銳化。人類需要眼見(jiàn)為實(shí)，能夠眼見(jiàn)的事實(shí)才具有震憾心靈的力量，但其實(shí)隱藏在轟動(dòng)新聞背后的技術(shù)研究遠(yuǎn)比事件本身驚人得多，因此，在很多情況下，等到眼見(jiàn)為實(shí)就意味著為時(shí)過(guò)晚。現(xiàn)在就已經(jīng)看不到有什么方法能夠控制技術(shù)的非理性發(fā)展了。

近來(lái)出現(xiàn)了對(duì)基因科學(xué)和人工智能的廣泛質(zhì)疑、憂慮和批評(píng)，但并非每件事情都能夠通過(guò)批評(píng)而亡羊補(bǔ)牢。能夠補(bǔ)救或者及時(shí)勒馬的事情基本上都屬于前現(xiàn)代，對(duì)于今天人類所面臨的科技問(wèn)題，恐怕就難以控制。金融資本主義和高科技的聯(lián)手就幾乎注定了沒(méi)有回頭路，所有驚人的事情遲早都要發(fā)生。因?yàn)闆](méi)有一種力量能夠強(qiáng)過(guò)資本和技術(shù)的同盟。在資本和技術(shù)面前，倫理批評(píng)尤其無(wú)力。也許需要全球合作建構(gòu)的法律和政治才可能為技術(shù)冒險(xiǎn)設(shè)限，但即使有了相關(guān)的法律，也未必充分有效。事實(shí)上，從更深的層次來(lái)說(shuō)，這一切都是現(xiàn)代主體性思維的邏輯結(jié)果，而主體性思維早已變成了現(xiàn)代人的思維定式，因此，技術(shù)的非理性發(fā)展是現(xiàn)代人共謀的結(jié)果，所有堅(jiān)持主體性思維以及現(xiàn)代價(jià)值觀的人都是共謀者。盡管人們對(duì)現(xiàn)代主體性思維方式已經(jīng)進(jìn)行了深刻的反思，但反思?xì)w反思，要改變思維方式卻很難，何況技術(shù)發(fā)展可能帶來(lái)的巨大“好事”始終是難以抵抗的誘惑。

基因科學(xué)就是一種巨大的誘惑，它遠(yuǎn)遠(yuǎn)不止是經(jīng)濟(jì)利益，更是一種存在論級(jí)別的生命升級(jí)誘惑，即人試圖超越人的概念而變成另一種更好、更高級(jí)的存在。這是主體性思維的一種極端夢(mèng)想。就其根源而言，現(xiàn)代的主體性夢(mèng)想始于中世紀(jì)的宗教信仰，這件事情聽(tīng)起來(lái)很是悖謬，因?yàn)樯系鄣母拍顗褐屏巳说母拍睢?/span>但事實(shí)上許多不合邏輯的事情確實(shí)產(chǎn)生于矛盾之中。中世紀(jì)的僧侶和學(xué)者希望能夠理解上帝的精神，而理解上帝就需要了解上帝創(chuàng)造的萬(wàn)物，因此，中世紀(jì)的人們研究了各種事物，從植物、動(dòng)物到海妖和天文。盡管以現(xiàn)代知識(shí)標(biāo)準(zhǔn)來(lái)看，中世紀(jì)的研究大多數(shù)是不科學(xué)的，但問(wèn)題不在于科學(xué)性，而在于研究性。對(duì)萬(wàn)物的研究潛伏著一個(gè)顛覆神學(xué)的人文問(wèn)題：既然需要研究一切事物，那么就更應(yīng)該研究人，因?yàn)槿耸侨f(wàn)物中最為奇妙的存在，包含著上帝創(chuàng)世的最多秘密。事實(shí)上，“現(xiàn)代第一人”彼得拉克就是依照上述邏輯而發(fā)現(xiàn)了人的問(wèn)題。一旦對(duì)人的反思成為一切知識(shí)的核心，人就進(jìn)而獲得了思想的核心地位，于是，人的問(wèn)題就高于一切問(wèn)題。

在此可以看到，正是宗教的知識(shí)追求培養(yǎng)了宗教的掘墓人。笛卡爾、霍布斯、康德等所建立的主體性將人定義為自主獨(dú)立的存在，成為了世界的立法者，于是建構(gòu)了現(xiàn)代人的“人”的概念。后來(lái)，主體性概念不斷膨脹，人擁有的天賦權(quán)利越來(lái)越多，以至于已經(jīng)遠(yuǎn)遠(yuǎn)突破了自然人的概念，成為一種“自造人”，即自己決定自己成為什么樣的人。這意味著，人不滿足于被自然或上帝所創(chuàng)造的原本狀態(tài)，也不滿足于被社會(huì)和歷史所定義的事實(shí)，而可以成為自己想要的人。今天通常認(rèn)同的人的概念正是“自造人”的概念，在這個(gè)意義上說(shuō)，基因編輯的人或人工智能都是“自造人”概念的邏輯結(jié)果。

人為自己設(shè)立的主體性，或者“自造人”概念，就其內(nèi)在邏輯而言，意味著如此的意義：（1）人是具有自主意志和思想的主體，擺脫了上帝的精神支配，因此獲得了存在論上的自由（也稱形而上的自由）；（2）存在論上的自由意味著人可以塑造自己，重新定義自己，甚至創(chuàng)造自身，就是說(shuō)，人獲得了存在論上的完全主權(quán)；（3）存在論的主權(quán)意味著，每個(gè)人都是自己的邏輯起點(diǎn)，不再需要?dú)v史的起點(diǎn)，不再被歷史所說(shuō)明，也不再被社會(huì)條件所說(shuō)明，更不需要被他人觀點(diǎn)所解釋，于是個(gè)人高于歷史、高于社會(huì)背景、高于自然性，簡(jiǎn)單地說(shuō)，存在論上的自由就是取消歷史、社會(huì)和自然對(duì)人的說(shuō)明力；（4）既然每個(gè)人都不被歷史、社會(huì)和自然所定義，每個(gè)人都是自己的邏輯起點(diǎn)，那么每個(gè)人就可以選擇人的概念，人類更可以選擇人的概念，而選擇人的概念就當(dāng)然要選擇“最好的”概念，即兼?zhèn)湟磺袃?yōu)越功能的人。按照這個(gè)概念及其邏輯，人工智能和基因編輯就幾乎是必然的選擇。

當(dāng)然，一開(kāi)始的時(shí)候，自造人的努力并沒(méi)有顯示出危險(xiǎn)性，反而被認(rèn)為是人類的偉大成就。自造人的最初步驟只是教育，試圖通過(guò)教育來(lái)教化自然人，使之成為啟蒙人，人類文明因此獲得巨大的發(fā)展。進(jìn)而發(fā)現(xiàn)了優(yōu)生學(xué)，通過(guò)自然生殖的基因組合而造就更優(yōu)秀的人。

在當(dāng)代，還可以政治之名去重新定義人，比如變性人、同性婚姻、女性主義之類。有一則新聞?wù)f，某個(gè)歐洲人申請(qǐng)把出生日期從1949年改為1969年，理由是他認(rèn)同1969年出生的人，所以決定變成1969年出生的人。當(dāng)然被拒絕了，但是他提出了難以反駁的理由。他認(rèn)為，既然別人可以違背自然身份而進(jìn)行變性，那么，同理，他也應(yīng)該可以要求身份改變。這個(gè)新聞是否屬實(shí)并不重要，關(guān)鍵在于其中的理由符合自造人的邏輯?？梢韵胂?，以此類推，人們只要愿意，就可以主體性的名義提出諸如此類的種種要求。

因此，只要具備技術(shù)條件，基因科學(xué)和人工智能都必定出現(xiàn)，人類的所有自身革命都在自造人的邏輯上。對(duì)于自造人的種種革命，人們總會(huì)提出某種倫理批評(píng)，但另一些人也能夠提出倫理辯護(hù)。在此我們可以發(fā)現(xiàn)，倫理批評(píng)和倫理辯護(hù)同樣缺乏必然的力量，因?yàn)闊o(wú)論倫理批評(píng)還是倫理辯護(hù)，都基于雙方共享的主體性概念和現(xiàn)代性邏輯，就是說(shuō)，只要認(rèn)同了自造人的邏輯，就很難排除某一種改造的合法性。在此，主體性概念難免遇到“搬起石頭砸自己的腳”的困境。正如宗教的知識(shí)追求培養(yǎng)了宗教的掘墓人，現(xiàn)代的主體性邏輯也同樣培養(yǎng)了主體性的掘墓人：只要堅(jiān)持自造人在主體性邏輯上的一致性（consistency），那么，基因科學(xué)將創(chuàng)造的超人和人工智能將創(chuàng)造的超級(jí)智能就都是合乎邏輯的結(jié)果。

于是我們發(fā)現(xiàn)，對(duì)于基因科學(xué)和人工智能的有效批評(píng)不屬于倫理學(xué)，而只能是關(guān)于技術(shù)可行性的批評(píng)，或者是來(lái)自存在論的批評(píng)。

就基因工程而言，目前的技術(shù)尚未足夠成熟。如果允許使用不太準(zhǔn)確的比喻，可以說(shuō)，基因類似于語(yǔ)言，我們可以把人類基因看作是由25000—39000個(gè)句子組成的一篇文章（各個(gè)單位對(duì)基因數(shù)目的測(cè)定略有出入），那么在充分理解基因這篇文章的全部意義、整體結(jié)構(gòu)以及所有意義單位之間的關(guān)系之前，可以對(duì)基因進(jìn)行改寫(xiě)嗎？改寫(xiě)之后真的在任何意義上都更好嗎？改寫(xiě)確實(shí)只有好處而沒(méi)有副作用嗎？更準(zhǔn)確地說(shuō)，敲掉某些基因詞匯，甚至刪除某些基因句子，真的能夠確保是對(duì)這篇基因文章的改善嗎？疑點(diǎn)非常多。目前的基因編輯仍然只是試圖敲掉某些“不夠好”的基因，這就已經(jīng)非?？梢闪?，而基因技術(shù)的遠(yuǎn)景更在于改造人類基因或者為人類基因增加一些據(jù)說(shuō)有巨大好處的新基因，相當(dāng)于修改一門(mén)語(yǔ)言的詞匯和語(yǔ)法，或者為一門(mén)語(yǔ)言增加新詞匯或新語(yǔ)法，從而增加語(yǔ)言的表達(dá)力。比如說(shuō)，增加能夠克服一切疾病的基因甚至能夠長(zhǎng)生不老的基因，那么，這種遠(yuǎn)景就更加需要審慎反思。

如果是為一門(mén)人類語(yǔ)言增加新詞匯或新語(yǔ)法，應(yīng)該說(shuō)是發(fā)展了這門(mén)語(yǔ)言，之所以能夠這樣說(shuō)，是因?yàn)槿祟愐呀?jīng)對(duì)語(yǔ)言有著充分的理解。但是對(duì)于基因，人類目前的理解仍然是很不充分的，應(yīng)該說(shuō)，從整體到局部關(guān)系都仍然沒(méi)有透徹的理解。因此，基因語(yǔ)言中的每個(gè)詞匯和每個(gè)句子都可能有著人類尚未理解的伏筆，人類還不能夠完全判斷每個(gè)基因的潛在意義。從基因進(jìn)化的角度去看，就更沒(méi)有理由去確定哪一些基因是沒(méi)有用的，或者是可以隨便改寫(xiě)的，因?yàn)槿祟惖乃谢蚨际情L(zhǎng)期自然進(jìn)化的結(jié)果，那些無(wú)用的基因可能已經(jīng)自然淘汰了，而進(jìn)化所保存和積累的基因都蘊(yùn)含某種有用的功能，在這個(gè)意義上，敲掉某些基因可能蘊(yùn)含已知或未知的風(fēng)險(xiǎn)。

同樣，將來(lái)如果試圖為人類基因增加新詞匯或語(yǔ)法，也有可能破壞自然進(jìn)化出來(lái)的基因安全結(jié)構(gòu)。生命已經(jīng)有二十億或三十億年的進(jìn)化史，基因的數(shù)量、結(jié)構(gòu)和關(guān)系是千錘百煉的均衡。這一點(diǎn)與語(yǔ)言不同，語(yǔ)言的歷史不過(guò)數(shù)萬(wàn)年，仍然處于開(kāi)放狀態(tài)，遠(yuǎn)未成熟，所以語(yǔ)言可以隨意增加詞匯和語(yǔ)法，但基因這種自然密碼系統(tǒng)卻未必如此。

再者，從存在論的角度來(lái)看，一切存在的先驗(yàn)本意就是繼續(xù)存在。因此，任何存在的存在論限度就是不能違背“繼續(xù)存在”的原則，否則等于自殺。在這個(gè)意義上，基因科學(xué)和人工智能都有可能突破人類的存在論界限，從而違背人類生生不息的先驗(yàn)?zāi)康摹Ｈ祟愘F在有理性，所謂理性，其中一個(gè)重要性質(zhì)就是風(fēng)險(xiǎn)規(guī)避。因此，避免挑戰(zhàn)人類存在的存在論界限，就是最根本的風(fēng)險(xiǎn)規(guī)避。

不過(guò)，能夠突破人類的存在論界限的人工智能或基因技術(shù)尚待時(shí)日，或許人類會(huì)在臨界點(diǎn)（所謂奇點(diǎn)）之前恢復(fù)理性。更令人擔(dān)心也更為現(xiàn)實(shí)的問(wèn)題是，人類或許還沒(méi)有達(dá)到?jīng)_擊存在論界限的時(shí)候，就已經(jīng)陷于自取滅亡的困境。技術(shù)的奇跡有可能導(dǎo)致無(wú)解的政治問(wèn)題，比如說(shuō)，由技術(shù)發(fā)展所產(chǎn)生的極端不平等就非常可能引發(fā)社會(huì)暴亂。

一般來(lái)說(shuō)，量的不平等仍然有望維持某種程度的秩序，但質(zhì)的不平等就可能導(dǎo)致你死我活的決戰(zhàn)，比如說(shuō)，生命上的不平等就可能導(dǎo)致不共戴天的沖突。一旦基因科學(xué)取得決定性的技術(shù)突破，能夠使人長(zhǎng)生不老，或者使人獲得超級(jí)智力，可以想象，由于資源限制以及權(quán)力分配，長(zhǎng)生不老或超級(jí)智能的技術(shù)顯然只能用于小部分人，而不可能成為普惠所有人的應(yīng)用。那么，絕望的大多數(shù)人就很可能以死相拼，寧愿同歸于盡。

人類歷史證明，資源稀缺是導(dǎo)致沖突的一個(gè)重要原因，而資源稀缺決定了人們不可能共享幸福。也許基因科學(xué)和人工智能能夠做到讓所有人都過(guò)上衣食無(wú)憂的生活，卻不可能讓所有人都升級(jí)為超級(jí)人類。最好的事情永遠(yuǎn)是稀缺的，因此，最好的事情更可能引起更恐怖的沖突?？梢?jiàn)，技術(shù)的風(fēng)險(xiǎn)首先不在于技術(shù)本身，而在于技術(shù)的社會(huì)和政治后果。在這里存在著一個(gè)比技術(shù)本身更危險(xiǎn)的傾向：好事引發(fā)斗爭(zhēng)，絕對(duì)好事引發(fā)絕對(duì)斗爭(zhēng)。所以說(shuō)，人類有可能在死于壞事之前就死于好事。