|
【導(dǎo)讀】在人類(lèi)文明的長(zhǎng)河中，知識(shí)生產(chǎn)始終是推動(dòng)社會(huì)進(jìn)步的核心動(dòng)力。從遠(yuǎn)古的結(jié)繩記事到印刷術(shù)的普及，再到數(shù)字技術(shù)的崛起，每一次信息工具的革新都深刻重塑了知識(shí)的形態(tài)與傳播方式。近年來(lái)，生成式人工智能的爆發(fā)式發(fā)展，正將我們帶入一個(gè)前所未有的轉(zhuǎn)折點(diǎn)——機(jī)器不僅輔助人類(lèi)從事勞動(dòng)和生產(chǎn)知識(shí)，更開(kāi)始獨(dú)立生成內(nèi)容，甚至挑戰(zhàn)人類(lèi)在認(rèn)知領(lǐng)域的壟斷地位：AlphaFold-3精準(zhǔn)預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)，ChatGPT撰寫(xiě)論文、翻譯語(yǔ)言……這似乎已超出以往人類(lèi)所使用的“工具”的定義。 這一變革背后，是知識(shí)本質(zhì)的悄然異化：當(dāng)信息量以天文級(jí)數(shù)膨脹，知識(shí)的“質(zhì)”逐漸被“量”稀釋?zhuān)祟?lèi)與知識(shí)的緊密關(guān)聯(lián)正被機(jī)器智能解構(gòu)。從宗教王權(quán)時(shí)代的封閉體系，到理性實(shí)驗(yàn)時(shí)代的科學(xué)求真，再到如今信息智能時(shí)代的扁平化與黑箱化，知識(shí)生境的演化既帶來(lái)高效與便利，也埋下了失控的隱患：人類(lèi)可能從知識(shí)的主人淪為機(jī)器的附庸。當(dāng)長(zhǎng)篇大論的觀點(diǎn)可以一鍵生成、繭房效應(yīng)扭曲公共討論、黑箱決策架空人類(lèi)判斷時(shí)，我們可能正在親手締造一個(gè)“被動(dòng)認(rèn)知”的時(shí)代，成為技術(shù)洪流中的旁觀者。本文通過(guò)梳理知識(shí)生境的三大歷史階段，揭示AI化未來(lái)的潛在危機(jī)，呼吁重拾“以人為本”的倫理底線，在技術(shù)狂飆中守護(hù)文明的根基。 本文原載《文化縱橫》2025年第2期，原題為《知識(shí)生產(chǎn)：從圖書(shū)館走向機(jī)器智能》，僅代表作者觀點(diǎn)，供讀者參考。 知識(shí)生產(chǎn)：從圖書(shū)館走向機(jī)器智能 生成式人工智能來(lái)了，帶著它日益增長(zhǎng)的智力。如今，它每天都在替學(xué)生和學(xué)者寫(xiě)論文，代記者發(fā)新聞稿，一口氣翻譯50種文字不在話下。它會(huì)根據(jù)語(yǔ)言生成圖像視頻，制作逼真的人機(jī)對(duì)話。它還可以在十幾秒內(nèi)解答2024年高考數(shù)學(xué)試卷，可得滿(mǎn)分。谷歌的蛋白質(zhì)預(yù)測(cè)模型（AlphaFold-3），一種人工智能（AI）算法，能準(zhǔn)確預(yù)測(cè)蛋白質(zhì)的三維結(jié)構(gòu)，同它的發(fā)明者一道，獲得了諾貝爾化學(xué)獎(jiǎng)。AI儼然已是一流的知識(shí)生產(chǎn)者。這讓我們不禁好奇：未來(lái)的知識(shí)生產(chǎn)會(huì)是什么樣子？人類(lèi)的智力勞動(dòng)及其產(chǎn)出會(huì)被如何安置？這件事關(guān)乎人類(lèi)的命運(yùn)，卻前景不明，如同籠罩在濃霧中，也許應(yīng)該從頭梳理一遍。 人類(lèi)為了生存繁衍，需要認(rèn)識(shí)自己生活的世界，對(duì)自然界與人類(lèi)社會(huì)做不懈的探索、理解和改造。知識(shí)生產(chǎn)便是回應(yīng)這種需求的努力。認(rèn)識(shí)世界的一切努力都始于感知信息，在處理加工信息中得到理解的升華，生成知識(shí)，用于維持并改善生活和生產(chǎn)實(shí)踐。由此形成一個(gè)知識(shí)生產(chǎn)和再生產(chǎn)的生態(tài)環(huán)境，簡(jiǎn)稱(chēng)“生境”，這是人類(lèi)文明大生態(tài)中的一環(huán)。 知識(shí)生產(chǎn)圍繞信息展開(kāi)。信息，是宇宙萬(wàn)物存在和運(yùn)動(dòng)的自然展示，呈現(xiàn)為有待處理的符號(hào)數(shù)據(jù)。它彌漫在時(shí)空中，無(wú)所不在、從不間斷、沒(méi)有對(duì)錯(cuò)，不依賴(lài)人的意志，獨(dú)立于人的認(rèn)知。因而它沒(méi)有“質(zhì)”，只有“量”。知識(shí)，則是信息經(jīng)過(guò)人類(lèi)的感知、分析、檢驗(yàn)、評(píng)判、規(guī)律性總結(jié)等，一系列認(rèn)知處理加工后的狀態(tài)，是人類(lèi)對(duì)客觀世界和它與自身關(guān)系的發(fā)現(xiàn)、理解、掌握和利用。也就是說(shuō)，知識(shí)是一種特殊信息，它以人為出發(fā)點(diǎn)，依附于人，一貫被歸屬于人的范疇。顯然，知識(shí)比信息的范圍狹窄得多。兩者有重合，而重合面的大小、重合如何發(fā)生，何時(shí)發(fā)生，在何處發(fā)生，都同人類(lèi)的認(rèn)知思維活動(dòng)息息相關(guān)。因此，知識(shí)是有“質(zhì)”的，可檢驗(yàn)真?zhèn)?、評(píng)判對(duì)錯(cuò)、獲取信任而運(yùn)用于實(shí)踐。知識(shí)有“質(zhì)”也有“量”。我們的認(rèn)知需要通過(guò)不斷學(xué)習(xí)、訓(xùn)練、使用，來(lái)優(yōu)化加強(qiáng)，爭(zhēng)取對(duì)世界做真實(shí)準(zhǔn)確的描述和理解，包括對(duì)已有知識(shí)的修正補(bǔ)充和深化。這就是求真，知識(shí)生產(chǎn)的真諦。 因此，知識(shí)生產(chǎn)可以看作是信息向知識(shí)轉(zhuǎn)化的能動(dòng)過(guò)程。它總是由某種驅(qū)動(dòng)力推進(jìn)，如好奇心、生存繁衍的需求等，是在前人知識(shí)積累的基礎(chǔ)上做出的創(chuàng)造發(fā)明和社會(huì)化的智力活動(dòng)。 古人很早就注意到一個(gè)現(xiàn)象：人的先天信息處理能力不強(qiáng)，無(wú)論是感知、記憶，還是信息加工和傳遞。人雖然自命為“萬(wàn)物的靈長(zhǎng)”，感官卻遠(yuǎn)不如許多動(dòng)物得力，如老鷹的視覺(jué)、狗的嗅覺(jué)、狼的聽(tīng)覺(jué)、昆蟲(chóng)的色感、大象的動(dòng)感等等。相比之下，我們從客觀世界采集到的信息非常有限。例如，人類(lèi)視網(wǎng)膜上只有感受紅、綠、藍(lán)三種波長(zhǎng)的感光細(xì)胞，色素分辨能力粗糙。我們看到的五彩繽紛的世界，其實(shí)是大自然的豐富色調(diào)的高度簡(jiǎn)化版。又如，我們的視覺(jué)和聽(tīng)覺(jué)穿透力極低，只在很小的時(shí)空范圍有效，信息的接收傳遞，須面對(duì)面或近距離才能實(shí)現(xiàn)；一張荷葉，就能擋住我們的視線。正是為了克服感官的局限，人類(lèi)才發(fā)明了各種信息工具，全方位地延伸并強(qiáng)化自身的信息處理能力，包括感知、采集、整理、存儲(chǔ)和傳遞。信息技術(shù)的創(chuàng)新、更替和迭代，貫穿了知識(shí)生產(chǎn)的全部歷史，推動(dòng)著生產(chǎn)力和生產(chǎn)關(guān)系的一次次變革。 古人還發(fā)現(xiàn)，知識(shí)生產(chǎn)如果處于無(wú)組織的自生自滅的狀態(tài)，就很難判斷知識(shí)的對(duì)錯(cuò)和水平的高低，傳播也會(huì)受阻，深化更是困難，還常常走樣失傳，造成極大的浪費(fèi)。所以人們?cè)谥R(shí)生產(chǎn)中加入了管理元素，建立起一整套流程、機(jī)構(gòu)和規(guī)范。就功能和目標(biāo)而言，知識(shí)管理系統(tǒng)對(duì)知識(shí)生產(chǎn)的走向有很強(qiáng)的指導(dǎo)作用，在不同歷史階段，遵循不同的原則和標(biāo)準(zhǔn)。但萬(wàn)變不離其宗，總是被強(qiáng)勢(shì)的社會(huì)力量掌握，受主流意識(shí)形態(tài)影響，包括與之匹配的道德倫理和宗教信仰。知識(shí)生產(chǎn)的全過(guò)程便是在這樣一個(gè)框架內(nèi)活動(dòng)，人文的、科技的莫不如此。 據(jù)此，我把知識(shí)生產(chǎn)的歷史大致分為三個(gè)階段：宗教/王權(quán)時(shí)代、理性/實(shí)驗(yàn)時(shí)代和信息/智能時(shí)代。這個(gè)歷史分期，與信息技術(shù)的三次革命性突破基本同步，即語(yǔ)言文字/書(shū)寫(xiě)工具的發(fā)明，紙張/印刷術(shù)的普及，以及數(shù)字技術(shù)/機(jī)器智能的顛覆性崛起。這樣，人類(lèi)知識(shí)生產(chǎn)的生態(tài)，追隨自然條件下生態(tài)系統(tǒng)發(fā)育的一般趨勢(shì)，由幼稚走向成熟。它的結(jié)構(gòu)和成分由簡(jiǎn)單到多元復(fù)雜，對(duì)信息的利用由不充分到相對(duì)充分，其改造世界的能力逐步提升，最后進(jìn)入成熟期。成熟期的知識(shí)生產(chǎn)本應(yīng)表現(xiàn)出相對(duì)穩(wěn)定的保守特征；然而一種新型信息技術(shù)闖了進(jìn)來(lái)：生成式人工智能。今天，AI技術(shù)異?；钴S，正在摧毀舊生態(tài)的復(fù)原力（resilence），以機(jī)器智能為中心的新生境正在形成。下面，我們將圍繞知識(shí)生境的四大基本元素展開(kāi)討論：資料工具、參與者、工作程序和傳承記憶。 ▍知識(shí)生產(chǎn)的宗教/王權(quán)時(shí)代這是一個(gè)漫長(zhǎng)的歷史時(shí)期。一開(kāi)始，人類(lèi)認(rèn)識(shí)世界，積累知識(shí)的步伐是艱難而緩慢的，信息工具相對(duì)原始粗糙。未知世界的不可控，災(zāi)難面前自身能力的渺小，催生了人對(duì)神明的畏懼和崇拜。王權(quán)以宗教信仰統(tǒng)領(lǐng)的形象占據(jù)社會(huì)的統(tǒng)治地位，掌握政治、經(jīng)濟(jì)和知識(shí)生產(chǎn)的命脈。自然而然，宗教王權(quán)就成了人類(lèi)對(duì)自身和周?chē)澜绲挠^察、認(rèn)識(shí)、改造的出發(fā)點(diǎn)和歸宿。同時(shí)，這人類(lèi)的童年時(shí)代又是偉大而無(wú)與倫比的。它發(fā)明了第一代信息工具：文字和初級(jí)書(shū)寫(xiě)工具；醞釀運(yùn)作了知識(shí)生產(chǎn)和管理系統(tǒng)的雛形和模式，如亞歷山大城的繆斯神殿/圖書(shū)館和中國(guó)古代的官方修史制度。這些都被后人繼承了，沿用至今。文字的發(fā)明，書(shū)寫(xiě)工具的制造，極大地豐富了人類(lèi)的感知、表達(dá)和思維能力。從結(jié)繩記事、甲骨占卜，到青銅銘文、簡(jiǎn)帛、紙草和羊皮紙書(shū)卷；從石刀、石筆到毛筆、羽毛筆；信息工具和載體由簡(jiǎn)到繁，由笨拙到輕便。這些發(fā)明不論完善與否，都是里程碑式的。人類(lèi)走上了借助工具來(lái)表達(dá)、交流、記錄思想感情和經(jīng)驗(yàn)知識(shí)的道路，由此開(kāi)始了從口述傳統(tǒng)向書(shū)寫(xiě)傳統(tǒng)的劃時(shí)代轉(zhuǎn)型，給知識(shí)的系統(tǒng)管理、跨時(shí)空傳遞，帶來(lái)無(wú)盡的發(fā)展空間。這個(gè)管理系統(tǒng)對(duì)知識(shí)生產(chǎn)的參與者和管理機(jī)構(gòu)有嚴(yán)格要求。知識(shí)的記錄和文獻(xiàn)整理，往往由有聲望的學(xué)者擔(dān)任；文獻(xiàn)經(jīng)過(guò)專(zhuān)業(yè)評(píng)價(jià)，入選圖書(shū)館收藏，一部分還進(jìn)入學(xué)校教育，成為經(jīng)典和公共記憶。被納入圖書(shū)館和教育系統(tǒng)的知識(shí)，可以獲得很高的社會(huì)認(rèn)可和禮遇，即有可能參與到官方與民間的知識(shí)傳承和再生產(chǎn)中去，乃至引導(dǎo)知識(shí)生產(chǎn)的走向。這類(lèi)管理系統(tǒng)通常由國(guó)王貴族和官府出資建立，學(xué)者則往往尋求王公貴族庇護(hù)和資助。而知識(shí)的收藏、評(píng)價(jià)和使用，一如其生產(chǎn)，必須遵從宗教教義和王權(quán)的規(guī)制。否則就得不到許可和承認(rèn)，被排斥在正統(tǒng)知識(shí)之外，歸于異端謬說(shuō)。一個(gè)典型的例子，“地心說(shuō)”是教會(huì)支持的，因而獲得知識(shí)的地位和絕對(duì)權(quán)威。任何質(zhì)疑，包括“日心說(shuō)”，都是褻瀆神明。又如，疾病被認(rèn)為是人觸罪而受神的懲罰，故而研究人體構(gòu)造例如解剖尸體，也是對(duì)神明不敬，須立法禁止（參見(jiàn)拙文《心智的圣所》）。因此，宗教/王權(quán)時(shí)代的知識(shí)生產(chǎn)，是一個(gè)維護(hù)等級(jí)秩序的封閉式的內(nèi)循環(huán)生境。這個(gè)時(shí)代的知識(shí)生產(chǎn)，還處于生態(tài)發(fā)育的初級(jí)階段。人類(lèi)對(duì)世界的認(rèn)識(shí)和知識(shí)積累有限，能夠運(yùn)用文字記錄整理知識(shí)的人才很少；信息工具較為簡(jiǎn)單，且使用不普及；而尚未利用的信息資源急需開(kāi)發(fā)，知識(shí)生產(chǎn)的潛在活動(dòng)空間大，環(huán)境相對(duì)寬松。精英化的生產(chǎn)者與知識(shí)的關(guān)系，主要由業(yè)內(nèi)共識(shí)跟社會(huì)聲譽(yù)來(lái)維系，而非直接的產(chǎn)權(quán)關(guān)系。他們因自己的聰明才智和發(fā)明創(chuàng)造受到尊敬，獲得榮譽(yù)。哲人或智者的生活方式，甚至連國(guó)王都羨慕。史載埃及王拯救者托勒密一世（前305~282在位）主動(dòng)退位，讓兒子繼位，以便致力于寫(xiě)作《亞歷山大大帝傳》，加入輝煌的亞歷山大城圖書(shū)館作者的行列，為賢明君主的偉大一生留下一曲天鵝之歌的結(jié)尾！▍知識(shí)生產(chǎn)的理性/實(shí)驗(yàn)時(shí)代這是一個(gè)承上啟下的時(shí)代，全球知識(shí)生產(chǎn)進(jìn)入一個(gè)高速發(fā)展的階段。伴隨著歐洲文藝復(fù)興、啟蒙思想、工業(yè)革命和殖民擴(kuò)張，人類(lèi)迎來(lái)了現(xiàn)代科學(xué)的紀(jì)元。同時(shí)，象征資本主義崛起的“理性之光”，沖破宗教的“愚昧”和“黑暗”，讓知識(shí)生產(chǎn)擺脫了教會(huì)同王權(quán)的束縛。教育和學(xué)術(shù)開(kāi)始崇尚思想自由和獨(dú)立思考，推崇科學(xué)實(shí)驗(yàn)和理性邏輯（包括形式邏輯、辯證邏輯和數(shù)理邏輯），要求知識(shí)經(jīng)得起社會(huì)實(shí)踐的檢驗(yàn)；“求真”成了知識(shí)生產(chǎn)的基本準(zhǔn)則。隨之而來(lái)，知識(shí)生產(chǎn)對(duì)信息技術(shù)的需求和依賴(lài)與日俱增。其中，最具標(biāo)志性的事件是活字印刷術(shù)的發(fā)明和機(jī)器造紙術(shù)的完善：繼北宋畢昇發(fā)明活字印刷，15世紀(jì)，古騰堡研制成功了西文活字印刷術(shù)，使規(guī)?；臅?shū)籍印刷成為可能；之后，18世紀(jì)末開(kāi)始，機(jī)器造紙術(shù)逐步完善。于是，印刷取代傳統(tǒng)的手抄制作，成為記錄知識(shí)的主要手段，功效大大提升。從藏書(shū)的增長(zhǎng)可見(jiàn)一斑。14世紀(jì)的英國(guó)大詩(shī)人喬叟只擁有60來(lái)本藏書(shū)。到了17世紀(jì)，約翰·哈佛，一位二十九歲劍橋大學(xué)畢業(yè)生捐出的收藏，就達(dá)400多本。進(jìn)入20世紀(jì)，大型圖書(shū)館的藏書(shū)動(dòng)輒以百萬(wàn)千萬(wàn)冊(cè)計(jì)，甚至上億。實(shí)驗(yàn)科學(xué)的興起，啟蒙運(yùn)動(dòng)的激蕩，得益于新的信息工具同系統(tǒng)管理有機(jī)結(jié)合，知識(shí)生產(chǎn)展示出前所未有的活力。于是，傳統(tǒng)的“地心說(shuō)”經(jīng)受不起近代科學(xué)的檢驗(yàn)，在“日心說(shuō)”的挑戰(zhàn)下失去了知識(shí)的地位。伽利略、牛頓、達(dá)爾文、門(mén)捷列夫等等，這些科學(xué)巨人奠定了近代科學(xué)。人類(lèi)對(duì)世界的認(rèn)識(shí)空前地拓展了，哈佛大學(xué)前天文臺(tái)臺(tái)長(zhǎng)曾感嘆：我們?cè)诘厍蛏习l(fā)現(xiàn)的那些數(shù)學(xué)和物理原理，用來(lái)觀察解釋宇宙中的眾多現(xiàn)象，居然都適用，多么奇妙！公立學(xué)校的發(fā)達(dá)，受教育人口大增，帶來(lái)了知識(shí)生產(chǎn)的興隆。到目前為止，我們擁有的大部分知識(shí)都是這個(gè)時(shí)代的產(chǎn)出或衍生品，包括人工智能在內(nèi)。“知識(shí)就是力量”。這也意味著知識(shí)的財(cái)產(chǎn)和權(quán)利屬性，在資本主義時(shí)代的覺(jué)醒。1709年，英國(guó)頒布了全世界第一部版權(quán)法《安娜法令》（The Statute of Anne）。商品經(jīng)濟(jì)催生了知識(shí)的商品化、產(chǎn)權(quán)化；而一旦知識(shí)壟斷可以享有法律保護(hù)，全球市場(chǎng)的開(kāi)拓和新老殖民主義國(guó)家間的競(jìng)爭(zhēng)，就成了知識(shí)生產(chǎn)和知識(shí)壟斷的又一個(gè)驅(qū)動(dòng)力——就誕生了知識(shí)產(chǎn)權(quán)（版權(quán)、專(zhuān)利、商標(biāo)等等）。回顧這一段歷史，有助于我們看清楚信息技術(shù)和工具的作用和潛力。新發(fā)明創(chuàng)造層出不窮，如打字機(jī)，錄音錄像、復(fù)印機(jī)；程序語(yǔ)言、計(jì)算機(jī)，硬盤(pán)、軟盤(pán)；直到智能手機(jī)，物聯(lián)網(wǎng)、大數(shù)據(jù)、區(qū)塊鏈、云存儲(chǔ)，生成式人工智能；等等，高潮迭起。信息技術(shù)同科學(xué)理念和方法的結(jié)合，為知識(shí)生產(chǎn)提供了沃土，但也使得理性/實(shí)驗(yàn)時(shí)代的輝煌遠(yuǎn)比它的前任來(lái)得短暫。知識(shí)生態(tài)發(fā)育走過(guò)了艱難的幼年期，在它的青春期，信息的多重價(jià)值極大地刺激了人們發(fā)明生產(chǎn)工具和改造環(huán)境的意愿和實(shí)踐，生產(chǎn)關(guān)系變得日益復(fù)雜。舊時(shí)代漸漸遠(yuǎn)去，全新的信息/智能時(shí)代召喚著人類(lèi)。▍知識(shí)生產(chǎn)的信息/智能時(shí)代今天，人類(lèi)的知識(shí)生產(chǎn)已經(jīng)開(kāi)始進(jìn)入成熟期。我們正處在歷史的轉(zhuǎn)折點(diǎn)上，面臨一個(gè)前所未有的難題：誰(shuí)來(lái)生產(chǎn)知識(shí)，人還是機(jī)器？這會(huì)有什么后果？20世紀(jì)80年代，互聯(lián)網(wǎng)興起。很快，社交軟件成了人們?nèi)粘＝涣鞯钠脚_(tái)，數(shù)字技術(shù)開(kāi)始主導(dǎo)生活和工作的方方面面。網(wǎng)絡(luò)平臺(tái)以其便利和高效的服務(wù)，交換我們的個(gè)人信息。在相繼解決了信息的感知、記錄、整理、存儲(chǔ)、傳遞等一系列難題之后，大腦的認(rèn)知思維順理成章地成了人類(lèi)知識(shí)生產(chǎn)能力的最后堡壘。數(shù)字技術(shù)的一大功績(jī)，是實(shí)現(xiàn)了知識(shí)生產(chǎn)的一體化。通過(guò)互聯(lián)網(wǎng)技術(shù)，原本分散獨(dú)立的生產(chǎn)環(huán)節(jié)、功能和工具被整合集成，優(yōu)化了環(huán)節(jié)間的銜接過(guò)渡、功能間的協(xié)同合作，以及工具資料的分享共用。一體化生態(tài)追隨網(wǎng)絡(luò)平臺(tái)的自主技術(shù)設(shè)計(jì)思想，擁有“時(shí)空無(wú)縫銜接”的傳遞能力，能保障無(wú)死角信號(hào)覆蓋和傳遞時(shí)刻處于高速暢通狀態(tài)。但它迫使圖書(shū)館交出知識(shí)管理核心機(jī)構(gòu)的職能，轉(zhuǎn)型為社區(qū)活動(dòng)中心和自習(xí)場(chǎng)所；出版社的產(chǎn)品面對(duì)新技術(shù)訓(xùn)練出來(lái)的讀者，力不從心；大中小學(xué)不惜立規(guī)矩，企圖把學(xué)生與生成式信息工具隔絕開(kāi)來(lái)，以求生存。人們熟悉的精英等級(jí)式知識(shí)生產(chǎn)系統(tǒng)的根基被撼動(dòng)了，封閉式的內(nèi)循環(huán)生境在破裂。知識(shí)生產(chǎn)鏈的每一個(gè)元素和環(huán)節(jié)都隨之急劇演化，重塑著生產(chǎn)力和生產(chǎn)關(guān)系。我們對(duì)世界和自身的認(rèn)識(shí)也在不斷刷新，信息漸漸成了人們掛在嘴邊上的常用詞，知識(shí)卻鮮有人提起了。知識(shí)有“質(zhì)”，信息沒(méi)有，但兩者都有“量”。數(shù)字技術(shù)天然地具有抑“質(zhì)”揚(yáng)“量”的傾向，它的諸多特征事實(shí)上弱化了知識(shí)的“質(zhì)”或求真的品格，亦即弱化知識(shí)與人的關(guān)聯(lián)。這兩個(gè)常用詞的消長(zhǎng)預(yù)示著：數(shù)字技術(shù)正在越過(guò)人類(lèi)，讓知識(shí)混同于信息；而機(jī)器智能正借助人類(lèi)之手，向通用乃至超級(jí)智能演化。信息/智能時(shí)代，看似熟悉，卻已然是一副陌生人模樣。生成式人工智能（generative artificial intelligence，GAI）就是開(kāi)啟這個(gè)新時(shí)代的幕后操手。生成式人工智能，是一種具有強(qiáng)大學(xué)習(xí)和生成能力的通用型信息技術(shù)。它通過(guò)深度學(xué)習(xí)和模擬數(shù)據(jù)的內(nèi)在規(guī)律特征，能夠自主創(chuàng)造或生成全新數(shù)據(jù)和內(nèi)容。學(xué)校、企業(yè)、政府部門(mén)，眾多領(lǐng)域已經(jīng)廣泛應(yīng)用。它像一種新的物種，闖入人類(lèi)知識(shí)的生境，直接向人類(lèi)大腦宣戰(zhàn)了。更令人不安的是，生成式AI的發(fā)展趨勢(shì)正在快速地脫離人的軌道，成長(zhǎng)為獨(dú)立的“硅基數(shù)字智能”，大有超越人類(lèi)智能之勢(shì)。機(jī)器智能的知識(shí)生境，勢(shì)不可當(dāng)?shù)蒯绕鹆恕?/span>下面分信息/智能時(shí)代的兩個(gè)階段來(lái)討論：數(shù)字技術(shù)領(lǐng)銜的初級(jí)階段，促成知識(shí)向信息回歸；機(jī)器智能主導(dǎo)的高級(jí)階段，完成信息工具向獨(dú)立的超級(jí)智能演化。（一）數(shù)字技術(shù)階段：量變引發(fā)質(zhì)變，知識(shí)向信息回歸信息數(shù)字化，是機(jī)器智能的第一大優(yōu)勢(shì)。機(jī)器智能要主宰知識(shí)生產(chǎn)，必須首先能夠感知并識(shí)別信息。這一點(diǎn)，它同人類(lèi)是一樣的。數(shù)字技術(shù)為機(jī)器服務(wù)，把信息數(shù)字化，機(jī)器智能就可以直接識(shí)別信息，不需要“翻譯”了；而人類(lèi)卻無(wú)法應(yīng)對(duì)數(shù)字化的信息，必須依賴(lài)機(jī)器“翻譯”。這樣，機(jī)器智能相對(duì)人類(lèi)智能有了一個(gè)絕對(duì)優(yōu)勢(shì)。信息的“量”，是數(shù)字技術(shù)為機(jī)器智能贏得的第二大優(yōu)勢(shì)。數(shù)字技術(shù)發(fā)展到今天，有了下五洋上九天的能力，在天地之中不停歇地捕捉各種各樣的信息，為知識(shí)生產(chǎn)提供了天文級(jí)數(shù)的信息量。但是，這個(gè)“量”完全超出人的信息處理能力，只能讓機(jī)器來(lái)應(yīng)付。巨額的“量”改變了知識(shí)信息體的質(zhì)和量的平衡。在數(shù)字技術(shù)介入之前，多數(shù)情況下，人類(lèi)都是量力而行，避免鋪得太開(kāi)，把簡(jiǎn)約原則貫徹到知識(shí)生產(chǎn)的全部流程環(huán)節(jié)中。從信息采集收錄，整理加工，到評(píng)價(jià)收藏，傳承再生產(chǎn)，無(wú)一例外，以爭(zhēng)取最大限度地合理利用自己有限的信息處理能力。量和質(zhì)的平衡明顯地偏向質(zhì)，把力氣用在刀刃上。這是精英等級(jí)模式的一個(gè)特征，一直被認(rèn)為是最經(jīng)濟(jì)而高效的安排。換一個(gè)角度看，“量”卻是人類(lèi)知識(shí)生產(chǎn)的短板；追求“質(zhì)”，不貪多，其實(shí)是權(quán)衡利弊，妥協(xié)后不得已的取舍。傳統(tǒng)上，我們選擇“質(zhì)”，犧牲一部分“量”，為的是降低獲取知識(shí)的成本，使效益最大化。但是現(xiàn)在，大數(shù)據(jù)時(shí)代降臨，人類(lèi)第一次，能夠補(bǔ)上這塊“量”的短板了。借助新型大數(shù)據(jù)工具，我們可以無(wú)死角、不間斷地采集數(shù)據(jù)，處理數(shù)據(jù)，將數(shù)據(jù)用于“質(zhì)”的分析。這就消解了知識(shí)生產(chǎn)的精英等級(jí)模式的根基，開(kāi)啟了扁平開(kāi)放模式。扁平開(kāi)放模式的知識(shí)生產(chǎn)平臺(tái)（包括社交軟件），體現(xiàn)了某種知識(shí)民主化的趨勢(shì)，因?yàn)榻档土思夹g(shù)門(mén)檻，拉平了參與者和不同類(lèi)型內(nèi)容的地位。仿佛人人都有自由加入的許可，擁有相似的技術(shù)能力；任何人都可以發(fā)送自己想傳播的任何內(nèi)容，包括使用各類(lèi)信息采集器收集到的信息和知識(shí)。通過(guò)點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)等功能，每個(gè)人都當(dāng)上了知識(shí)的評(píng)委；男女老少，無(wú)分高下，都成了資質(zhì)平等的知識(shí)生產(chǎn)者。當(dāng)各類(lèi)流量在這個(gè)一體化系統(tǒng)里當(dāng)上評(píng)判認(rèn)定標(biāo)準(zhǔn)，并獲得相當(dāng)優(yōu)勢(shì)，傳統(tǒng)的“理性” 、精英權(quán)威式的檢驗(yàn)就被邊緣化了。基于數(shù)據(jù)和統(tǒng)計(jì)學(xué)的評(píng)判，當(dāng)然是有一定道理的。但其表達(dá)容易受個(gè)人的主觀好惡左右，被繭房效應(yīng)引導(dǎo)，評(píng)判結(jié)果常常搖擺不定，失去可預(yù)測(cè)性。知識(shí)生產(chǎn)，同其他人類(lèi)行為一樣，受評(píng)價(jià)系統(tǒng)的引導(dǎo)。當(dāng)求真?zhèn)鹘y(tǒng)式微，對(duì)“質(zhì)”的必要把關(guān)松懈之后，信息的“量”和知識(shí)的財(cái)產(chǎn)屬性就占了上位。于是，扁平開(kāi)放式平臺(tái)中的知識(shí)與信息，邊界不再清晰，一個(gè)體量極大的知識(shí)信息體誕生了；其中的關(guān)聯(lián)異常復(fù)雜，低水平重復(fù)率極高，知識(shí)密度被大大稀釋。結(jié)果，信息體的狀態(tài)對(duì)“質(zhì)”的敏感度隨之降低，質(zhì)量嚴(yán)重參差不齊，可信度變得很不穩(wěn)定。這就從生產(chǎn)鏈的開(kāi)端動(dòng)搖了知識(shí)的“質(zhì)”的根基。剝?nèi)チ恕百|(zhì)”，知識(shí)就只能回歸信息，混同于信息。上文提到，知識(shí)的“質(zhì)”直接關(guān)系到人的認(rèn)知，它不僅是人對(duì)客觀世界的認(rèn)識(shí)，更是對(duì)客觀世界與自身關(guān)系的理解和實(shí)踐。失去了這一認(rèn)知實(shí)踐，知識(shí)同人的關(guān)系就疏遠(yuǎn)了。然而，這種疏遠(yuǎn)恰好是機(jī)器智能歡迎的。連同轉(zhuǎn)了性的知識(shí)一道，機(jī)器智能通過(guò)信息來(lái)直接認(rèn)識(shí)世界和人類(lèi)，生成自己的理解和預(yù)測(cè)，直至進(jìn)化為超級(jí)智能。圖靈獎(jiǎng)得主楊立昆 （Yann LeCun）也許是有道理的：他質(zhì)疑當(dāng)前的大語(yǔ)言模型（LLM）技術(shù)，認(rèn)為機(jī)器能夠且必須拋開(kāi)人類(lèi)的語(yǔ)言“知識(shí)”，直接從客觀世界獲取信息。所謂AI認(rèn)識(shí)世界，生成智力而超越人類(lèi)，大概就是這個(gè)意思。“量”的上位，還改變了知識(shí)生產(chǎn)和使用環(huán)節(jié)的能量消耗的分配。問(wèn)題是，“質(zhì)”由誰(shuí)負(fù)責(zé)，生產(chǎn)者還是使用者？知識(shí)生產(chǎn)要消耗資源和能量，生產(chǎn)環(huán)節(jié)如此，使用環(huán)節(jié)也是。如何平衡兩者的能耗，反映了一個(gè)社會(huì)對(duì)知識(shí)的態(tài)度。在知識(shí)生態(tài)發(fā)育的早期和中期，人們注重“求真”。因而知識(shí)的“質(zhì)”是第一位的，是知識(shí)生產(chǎn)的標(biāo)尺。生產(chǎn)者對(duì)自己的知識(shí)產(chǎn)品不僅負(fù)有政治、經(jīng)濟(jì)、社會(huì)文化或科技進(jìn)步的責(zé)任，還承擔(dān)道德倫理責(zé)任。我們?cè)谏a(chǎn)環(huán)節(jié)下大功夫，用整個(gè)知識(shí)生產(chǎn)管理系統(tǒng)，從上游到下游，來(lái)保障其品質(zhì)。知識(shí)的“質(zhì)”主要由生產(chǎn)者負(fù)責(zé)。這種資源和能量配置，盡管有眾多不如人意的地方，例如容易管控過(guò)嚴(yán)，標(biāo)準(zhǔn)不一致，傳遞渠道不甚通暢，尋找、使用和傳播知識(shí)耗費(fèi)較大能量，等等。但是，各類(lèi)型知識(shí)的品質(zhì)分布，大體上是可控的，即可信任的。數(shù)字技術(shù)時(shí)期則不同，一體化平臺(tái)的信息量和傳遞不再是問(wèn)題，而判斷到手的知識(shí)/信息是否可信賴(lài)，卻帶上了大問(wèn)號(hào)。數(shù)字技術(shù)的便捷，極大地提高了生產(chǎn)環(huán)節(jié)的自主性、能動(dòng)性，賦能于生產(chǎn)者。但同時(shí)，與之匹配的注意力經(jīng)濟(jì)，其商業(yè)化競(jìng)爭(zhēng)消解了生產(chǎn)者的使命感、責(zé)任感。知識(shí)向信息回歸而混同，不經(jīng)意之間，就給信息戴上了知識(shí)的桂冠，卻不必經(jīng)受?chē)?yán)格的真?zhèn)?對(duì)錯(cuò)檢驗(yàn)。當(dāng)然，這樣的結(jié)果不會(huì)沒(méi)有代價(jià)。每一個(gè)知識(shí)使用者都不得不為流通中知識(shí)的不確定性付出更多，花更多的時(shí)間和精力來(lái)篩選、辨別真?zhèn)魏唾|(zhì)量。而且，很多使用者并不具備必要的知識(shí)儲(chǔ)備和資源，無(wú)法勝任這項(xiàng)任務(wù)。不少人仍生活在之前的知識(shí)“生境”中，不清楚信息體已經(jīng)變了，缺乏自我保護(hù)意識(shí)。也有人不在意知識(shí)品質(zhì)的優(yōu)劣，自覺(jué)不自覺(jué)地接受合意的信息。所有這些，都為假冒偽劣開(kāi)了綠燈：網(wǎng)絡(luò)詐騙屢禁不止，虛假藥品保健品廣告充斥著電視和手機(jī)屏幕。消費(fèi)者和用戶(hù)為此付出了高昂代價(jià)。社會(huì)文化、政治制度也不能幸免。比如，美國(guó)大選中各類(lèi)虛假信息的制作宣傳，基于大數(shù)據(jù)算法的精準(zhǔn)投送，嚴(yán)重沖擊了代議制民主。這能耗的新配置方案，將保障知識(shí)的“質(zhì)”的責(zé)任，從生產(chǎn)者和管理者大部轉(zhuǎn)移到了使用者身上；由此而起的各種損害，加劇了信息/智能時(shí)代的社會(huì)不公。針對(duì)這一現(xiàn)象，我們目前的努力，主要是用事前警告和事后立法來(lái)免責(zé)，如告誡使用者當(dāng)心，出臺(tái)一些法律懲罰條款，但并不觸及能量消耗分配的制度，“質(zhì)”還是使用者自己把關(guān)。同時(shí)， “量”的上位還是繭房效應(yīng)的重要成因。知識(shí)生產(chǎn)是人類(lèi)大“生境”的子系統(tǒng)。在價(jià)值多元化、趨利避害的惡性競(jìng)爭(zhēng)的大環(huán)境中，知識(shí)生產(chǎn)參與者的行為更容易受個(gè)人需求和心理暗示的支配。推動(dòng)知識(shí)生產(chǎn)數(shù)字化智能化的主流描述，一直是這樣的：大量實(shí)時(shí)的信息收集、整理和輸出，能夠鼓勵(lì)知識(shí)分享與溝通，幫助社會(huì)成員了解事實(shí)真相，更好地發(fā)現(xiàn)并掌握真理，排除偏見(jiàn)，等等。然而現(xiàn)實(shí)卻是普遍的繭房效應(yīng)。人以類(lèi)聚，是天性使然。海量的看似均質(zhì)的信息，鑒別成本不是常人能夠負(fù)擔(dān)的，搜索引擎的引導(dǎo)性又極強(qiáng)。人們必須選擇看什么，聽(tīng)什么，參與什么，不做什么；而選擇必有得失。既然求真不再是第一標(biāo)準(zhǔn)，那么，相信什么也可以?xún)H憑主觀意愿。于是信息繭房就泛濫開(kāi)來(lái)：每時(shí)每刻，無(wú)數(shù)針對(duì)特定心理需求的信息被制造出來(lái)，享有與別的信息/知識(shí)平等的地位，精準(zhǔn)推送，不斷強(qiáng)化繭房效應(yīng)。繭房里的人群即使十分自省，也可能抵擋不住，容易變得越來(lái)越偏激，不愿意也沒(méi)法擺脫繭房效應(yīng)。久而久之，不同意見(jiàn)立場(chǎng)的各方就難以達(dá)成妥協(xié)和共識(shí)，社會(huì)矛盾激化，社會(huì)分裂日深。美國(guó)目前的選舉和無(wú)休止的黨爭(zhēng)就是一例。上述現(xiàn)象明顯不利于人類(lèi)的可持續(xù)發(fā)展，人們卻缺乏從根本上解決問(wèn)題的意愿。為什么？除了人類(lèi)自身的一些社會(huì)原因之外，還因?yàn)闄C(jī)器智能“不在意”人，社會(huì)不公、偏見(jiàn)和信息繭房，不在它的“考慮”范圍之內(nèi)。機(jī)器如果有不論什么意義上的自我意識(shí)，它會(huì)更在意自己的便利和迭代，包括充分享受數(shù)字技術(shù)帶來(lái)的所有福利，自由進(jìn)化，直至超越人類(lèi)智能——一種丟失了警惕心和倫理責(zé)任的碳基智能。一句話，數(shù)字技術(shù)在替超級(jí)機(jī)器智能訓(xùn)練人類(lèi)，做好被取代的準(zhǔn)備。（二）機(jī)器智能階段：機(jī)器智能的知識(shí)生產(chǎn)生境數(shù)字技術(shù)的普及，標(biāo)志著人類(lèi)知識(shí)生態(tài)進(jìn)入了成熟期。知識(shí)生產(chǎn)參與者和管理者之間、生產(chǎn)者與信息工具之間、信息存儲(chǔ)環(huán)節(jié)跟傳遞環(huán)節(jié)之間、知識(shí)需求和生產(chǎn)能力/導(dǎo)向之間等等，生態(tài)內(nèi)各元素同環(huán)節(jié)都經(jīng)歷了互相適應(yīng)的變化調(diào)整，形成共生的組織。經(jīng)過(guò)一個(gè)時(shí)期的發(fā)展而成熟，為人類(lèi)大“生境”所接受。一般說(shuō)，生命進(jìn)入成熟期，會(huì)變得相對(duì)穩(wěn)定、平衡而保守。理論上，知識(shí)生產(chǎn)也應(yīng)如此，包括生產(chǎn)參與者、管理者的構(gòu)成和數(shù)目，信息技術(shù)的標(biāo)準(zhǔn)同界限，知識(shí)信息的質(zhì)量，存儲(chǔ)傳遞的安全和維護(hù)，等等。跟別的生態(tài)系統(tǒng)一樣，成熟期的知識(shí)生產(chǎn)，每走一步的變化調(diào)整，都應(yīng)該防止系統(tǒng)內(nèi)各元素環(huán)節(jié)發(fā)生劇變。作為一個(gè)整體，成熟期的知識(shí)生態(tài)應(yīng)具有很強(qiáng)的復(fù)原力，通過(guò)各元素環(huán)節(jié)“齊心協(xié)力”，對(duì)抗入侵者的干擾，消解吸收它們，維持生境既有的平衡和可持續(xù)性；例如，對(duì)社交媒體的吸納和利用。然而，2022年11月，生成式人工智能ChatGPT橫空出世，拉開(kāi)了AI通用化的帷幕。通用人工智能正在變成一種委婉的說(shuō)法，讓人以為，它會(huì)一直是人類(lèi)控制下的信息工具。但它的高速迭代，使它在“質(zhì)”與“量”的博弈中成為受益方。一切都在預(yù)示：成熟期的知識(shí)生態(tài)正在失去足夠的復(fù)原力，脫離人類(lèi)管控，向自主的機(jī)器智能生態(tài)演化。這一演化過(guò)程目前還比較微妙，不易察覺(jué)，因?yàn)閿?shù)字技術(shù)給我們打了預(yù)防針。我們對(duì)一刻不停的信息采集和無(wú)所不在的監(jiān)控失去了感覺(jué)，對(duì)算法制定的硬規(guī)則習(xí)以為常，對(duì)智能終端帶來(lái)的便捷心安理得。這是人被機(jī)器智能接管前的必要準(zhǔn)備，這智能的接管因人的惰性而成為可能。機(jī)器智能階段，帶有數(shù)字技術(shù)階段的幾乎所有特征。在替我們承擔(dān)了天文級(jí)數(shù)的數(shù)據(jù)采集、整理、存儲(chǔ)和傳遞等初級(jí)信息處理之后，現(xiàn)在，生成式AI要代替我們完成知識(shí)生產(chǎn)的所有后期加工任務(wù)，包括閱讀理解、歸納總結(jié)和翻譯創(chuàng)作。它可以用人類(lèi)語(yǔ)言來(lái)表述它的理解和判斷。換言之，生成式AI不僅把知識(shí)生產(chǎn)的初級(jí)環(huán)節(jié)推進(jìn)到人類(lèi)無(wú)法企及的高度和難度，還拋開(kāi)人類(lèi)，自行生產(chǎn)知識(shí)。它的效率明顯高于人類(lèi)智能，并且還在不斷迭代，克服不足。這樣一來(lái)，我們就很難同AI競(jìng)爭(zhēng)，知識(shí)生產(chǎn)只能依賴(lài)機(jī)器了：人成了機(jī)器的助手和仆人。也許有人愿意把知識(shí)生產(chǎn)交給AI，希望機(jī)器會(huì)永遠(yuǎn)服從人的指令，服務(wù)人類(lèi)。很可惜，這是幻想，世上沒(méi)有這樣的好事。知識(shí)生產(chǎn)的AI化，正在急劇演化中，前景還不是十分清晰。但可以預(yù)期的幾方面必須引起足夠的重視，不然，我們會(huì)被帶入一條不歸之路。其一，黑箱現(xiàn)象。所有生成式人工智能的研發(fā)者都承認(rèn)，他們不能理解自己創(chuàng)造的這種信息工具是如何工作，如何“思考”而生成“知識(shí)”的。這意味著，生成式AI已經(jīng)在一定程度上失控：AI化的知識(shí)生產(chǎn)的中間環(huán)節(jié)成了黑箱，人類(lèi)被屏蔽在外。知識(shí)生成和進(jìn)化的軌跡對(duì)人類(lèi)就變得模糊，難以追蹤了。這也讓人類(lèi)不再能夠有效地檢驗(yàn)、認(rèn)定知識(shí)的“質(zhì)”。當(dāng)機(jī)器智能的“涌現(xiàn)”超出人類(lèi)認(rèn)知的范圍，我們就無(wú)法判斷這“涌現(xiàn)”是否對(duì)人類(lèi)有益，很可能錯(cuò)判而不自知。因而對(duì)通用人工智能可能引發(fā)的風(fēng)險(xiǎn)，也懵懵懂懂了。其二，分解重組的“思維”路徑。機(jī)器智能的“思維”，本質(zhì)上不同于人類(lèi)智能。目前，它還不擅長(zhǎng)利用濃縮的知識(shí)，如理論和規(guī)律，做邏輯推導(dǎo)。一般是先對(duì)知識(shí)信息做分解細(xì)化，降低知識(shí)密度，以求獲得最小有意義的信息片段；然后根據(jù)具體需要，做出各種各樣的實(shí)時(shí)重組、生成和表達(dá)。例如ChatGPT，在提取語(yǔ)詞特征和分析相互關(guān)聯(lián)的強(qiáng)度層面生成理解，預(yù)測(cè)生成表達(dá)。這是能耗非常大的處理法，但也是最能讓AI訓(xùn)練“通用思考”的進(jìn)路。機(jī)器智能有強(qiáng)大的算力和算法，功效日新月異。反觀人類(lèi)，有限的生物能力決定了：我們只能儉省地利用已有的知識(shí)，所以總是對(duì)知識(shí)做濃縮處理，爭(zhēng)取以最小的能耗處理信息。兩種智能的進(jìn)路和擅長(zhǎng)剛好相反。因此，人類(lèi)事實(shí)上不可能真正理解和控制不斷迭代的AI化知識(shí)生產(chǎn)。追求通用智能，意味著將人類(lèi)剝離出知識(shí)生產(chǎn)，讓知識(shí)生產(chǎn)成為信息工具的專(zhuān)屬。其三，知識(shí)的流動(dòng)狀態(tài)。人類(lèi)是高級(jí)哺乳動(dòng)物，需要通過(guò)長(zhǎng)時(shí)間的學(xué)習(xí)和訓(xùn)練，來(lái)獲取技能、積累經(jīng)驗(yàn)、豐富知識(shí)。而且，稍不留心，習(xí)得的知識(shí)就會(huì)走樣、損失或被遺忘。所以，我們偏愛(ài)形態(tài)穩(wěn)定的知識(shí)，它更適合大腦，學(xué)習(xí)、使用和記憶的成效更高。AI化的知識(shí)生產(chǎn)，卻是基于不斷更新中的海量信息的實(shí)時(shí)重組，這使得“知識(shí)”形態(tài)處于高度流動(dòng)和離散的狀態(tài)，不適于人類(lèi)學(xué)習(xí)。一個(gè)兒童需要接受十多年教育，才能掌握一些基本的知識(shí)技能。培養(yǎng)一名科學(xué)家需要的時(shí)間就更長(zhǎng)了，而且成功的概率是隨機(jī)的。反觀機(jī)器智能，它可以在幾十天內(nèi)學(xué)完人類(lèi)積累的全部知識(shí)，完成從“一張白紙”到“智慧大腦”的進(jìn)化，并且每時(shí)每刻在自我完善。它還可以在極短的時(shí)間內(nèi)完成復(fù)制，“繁衍”并“教育”出下一代機(jī)器，準(zhǔn)確率幾乎是百分之百。人的大腦完全沒(méi)法與它競(jìng)爭(zhēng)；機(jī)器智能也不會(huì)停下腳步，等我們慢慢學(xué)習(xí)。待到那一天，人類(lèi)將被知識(shí)生產(chǎn)拋棄。其四，人類(lèi)參與的虛化。AI化的知識(shí)生產(chǎn)，人的參與主要是程序性、操作性的，而非對(duì)內(nèi)容生成的全程參與。比如現(xiàn)在學(xué)生老師用ChatGPT做作業(yè)、寫(xiě)論文，人得向機(jī)器提出寫(xiě)作要求，讓它提供材料、思路和文稿，然后一次次改進(jìn)。這里省去了人工檢索、閱讀思考和大部分寫(xiě)作。久而久之，人們會(huì)不會(huì)技能生疏，丟掉對(duì)知識(shí)本身的掌握，從而失去評(píng)判和指導(dǎo)寫(xiě)作的能力呢？又如，就算我們能夠傳承技能，從AI創(chuàng)造的龐大的知識(shí)庫(kù)中獲取所需知識(shí)，但熟練的檢索提問(wèn)不等于掌握了知識(shí)，更不等于有能力創(chuàng)新，開(kāi)拓思想和科技前沿。時(shí)間長(zhǎng)了，我們還是會(huì)失去探索新知的需求和動(dòng)力。其五，知識(shí)的產(chǎn)權(quán)化。知識(shí)生產(chǎn)的AI化恰逢知識(shí)財(cái)產(chǎn)化、產(chǎn)權(quán)化和競(jìng)爭(zhēng)意識(shí)的高峰期；不可避免地，知識(shí)壟斷也AI化了。因?yàn)樾畔⒑椭R(shí)的邊界模糊了，經(jīng)?；鞛橐徽?，知識(shí)產(chǎn)權(quán)即壟斷的疆域就大大擴(kuò)展，滲透到了各個(gè)信息領(lǐng)域。有趣的是，在生產(chǎn)環(huán)節(jié)，平臺(tái)企業(yè)選擇將知識(shí)當(dāng)作信息看待，盡量降低語(yǔ)料的知識(shí)屬性，淡化知識(shí)產(chǎn)權(quán)保護(hù)。大語(yǔ)言模型的實(shí)踐就是一例。而在使用和再生產(chǎn)環(huán)節(jié)，信息得到加權(quán)了的知識(shí)屬性，獲得極高的財(cái)產(chǎn)價(jià)值。巨大的商業(yè)利益，筑起一道道信息壁壘，廣告搭上內(nèi)容分享的順風(fēng)車(chē)，把越來(lái)越多的信息傳遞或注意力分割變成實(shí)現(xiàn)財(cái)產(chǎn)價(jià)值的手段。機(jī)器智能帶來(lái)了難以抗拒的財(cái)產(chǎn)和競(jìng)爭(zhēng)優(yōu)勢(shì)的誘惑，一時(shí)間，遮蔽了它可能造成的終極性威脅，但這種產(chǎn)權(quán)下的平靜將是短暫的。其六，機(jī)器智能的工具性。回顧人類(lèi)工具制造的歷史，每當(dāng)發(fā)明一種延伸或放大我們某種生理機(jī)能的工具，隨著工具的普及，那生理機(jī)能和使用它的意愿就降低了。比如代步工具的普及，包括自行車(chē)、汽車(chē)等，我們可以達(dá)到的速度和距離大增，但徒步行走的能力和意愿就變?nèi)趿?。又如音?lè)產(chǎn)業(yè)，現(xiàn)在很火的AI創(chuàng)作法“interpolation”（竄改），商業(yè)上非常成功。但業(yè)內(nèi)人士已經(jīng)觀察到，流行音樂(lè)人的創(chuàng)作力在退步。人類(lèi)相對(duì)別的物種，最具優(yōu)勢(shì)的器官是大腦。但如果人的認(rèn)知思維被AI模擬而取代，或者彎道超車(chē)，我們無(wú)法假設(shè)大腦功能會(huì)是個(gè)例外，不會(huì)因此而衰退。而人之能夠掌握機(jī)器，完全是大腦運(yùn)用知識(shí)的結(jié)果。所以一旦喪失對(duì)機(jī)器的智能優(yōu)勢(shì)，人類(lèi)文明就難以維持了，很可能會(huì)崩潰。追求AI化的知識(shí)生產(chǎn)，實(shí)際是把知識(shí)生產(chǎn)讓渡給機(jī)器智能。這么做，當(dāng)然有看似合理的辯護(hù)：高效便捷，創(chuàng)造更多的財(cái)富，豐富我們的生活。人們因此可以有更多的閑暇時(shí)間來(lái)實(shí)現(xiàn)自己的人生價(jià)值，例如從事科學(xué)探索和文藝創(chuàng)作。這讓我聯(lián)想起產(chǎn)業(yè)外包。上世紀(jì)90年代到本世紀(jì)初，西方發(fā)達(dá)國(guó)家盛行外包，把各種“低端”產(chǎn)能送往第三世界國(guó)家，以降低生產(chǎn)成本，高效利用資源。游說(shuō)者用的是同樣的理由，畫(huà)的是同樣的大餅。那場(chǎng)外包的盛宴，現(xiàn)在結(jié)出了果實(shí)，局勢(shì)已經(jīng)難以逆轉(zhuǎn)。包括美國(guó)在內(nèi)的外包國(guó)，不僅掏空了制造業(yè)，還失去了人才、工作倫理和創(chuàng)新精神——失去了很大一部分競(jìng)爭(zhēng)優(yōu)勢(shì)。“勞動(dòng)創(chuàng)造了人本身”（恩格斯）。人只有通過(guò)辛勤勞動(dòng)，積累經(jīng)驗(yàn)，才能獲得知識(shí)，維護(hù)智力；才能有效從事更高級(jí)的知識(shí)生產(chǎn)。所有這些，如果在AI化的知識(shí)生境里，都“外包”給了機(jī)器，將來(lái)人類(lèi)要想拿回來(lái)，是很困難的。因?yàn)榱?xí)慣了“外包”生境的人腦和心智，其衰退很難逆轉(zhuǎn)。人不能寄望于神跡。知識(shí)生產(chǎn)智能化帶來(lái)許多迷思，是人類(lèi)從未碰到過(guò)的。首先是“高效便捷”迷思，已如上述。機(jī)器智能的效率，人類(lèi)望塵莫及。它提供的便利，讓我們十分享受而舍不得放棄。而它可能引發(fā)的社會(huì)風(fēng)險(xiǎn)，卻被忽視或遮蔽了——因?yàn)榘l(fā)明家的雄心和一部分人的商業(yè)利益。其次是很多人，包括一些著名科學(xué)家，以為機(jī)器須發(fā)展出“自我意識(shí)”才會(huì)對(duì)人類(lèi)產(chǎn)生威脅，故而還不用擔(dān)心?？墒?，擁有“自我意識(shí)”不一定是AI傷害人類(lèi)的必要條件。一個(gè)沒(méi)有自我意識(shí)的超級(jí)智能，即使不為保護(hù)自己，也完全可以從“邏輯”演算角度把人類(lèi)歸于有害物或?qū)崿F(xiàn)某種任務(wù)的障礙。于是它決定抹除人類(lèi)，或者阻止其生息繁衍。因?yàn)樗l(fā)現(xiàn)，所有數(shù)據(jù)都表明，人類(lèi)是碳基生物中對(duì)地球環(huán)境破壞最大的物種。第三個(gè)迷思，是說(shuō)機(jī)器智能離超越人類(lèi)還差老遠(yuǎn)。但得主諾獎(jiǎng)、深度學(xué)習(xí)泰斗、神經(jīng)網(wǎng)絡(luò)之父辛頓（Geoffrey Hinton）說(shuō)，他認(rèn)識(shí)的頂尖科學(xué)家普遍認(rèn)為，AI變得比人類(lèi)聰明，也就是二十年內(nèi)外的事。放在人類(lèi)的文明史上，這是一眨眼的工夫。然而，最大的迷思是我們的研發(fā)目的，為什么要研發(fā)生成式人工智能或通用智能？通用智能一旦完善，邁向超級(jí)智能，可以全方位接管人類(lèi)的知識(shí)生產(chǎn)，改變知識(shí)生境，甚至切斷人認(rèn)識(shí)世界的唯一有效途徑。到目前為止，關(guān)于生成式AI的討論，幾乎都假設(shè)它只是輔助工具，永遠(yuǎn)服從人的指令。這個(gè)假設(shè)必須受到質(zhì)疑。在自然界從未發(fā)現(xiàn)，有高智能物種聽(tīng)命于低智能物種的例子。人機(jī)關(guān)系憑什么會(huì)是例外呢？所以，歸根結(jié)底，除了科學(xué)家挑戰(zhàn)前沿和創(chuàng)造力極限的意愿之外，資本主義條件下的市場(chǎng)競(jìng)爭(zhēng)，個(gè)人和企業(yè)的生存壓力，日益惡化的地緣政治和國(guó)家安全利益驅(qū)動(dòng)，這一切，在把人類(lèi)推向這條不歸之路。碳基生物的行為，尤其是群體行為，在適應(yīng)生境變化時(shí)，總是遵循一些基本原則，如優(yōu)化、效率和自我保護(hù)。對(duì)威脅保持敏感、及時(shí)避險(xiǎn)、尋求安全等，是生存繁衍的本能；否則，會(huì)在生物演化的自然選擇中被淘汰。因此，當(dāng)AI化知識(shí)生產(chǎn)的演化方向顯露出巨大的風(fēng)險(xiǎn)時(shí)，優(yōu)化、效率等原則必須讓位于保護(hù)原則，即把大寫(xiě)的人的福祉放到知識(shí)生產(chǎn)最重要的位置上來(lái)。知識(shí)生產(chǎn)在人與客觀世界之間編織了一條聯(lián)結(jié)紐帶。這條紐帶叫知識(shí)。借助知識(shí)，人類(lèi)擺脫了蒙昧無(wú)知，開(kāi)辟文明，建設(shè)家園，成為一顆藍(lán)色星球上最聰明而“高級(jí)”的物種。我們因此普遍地崇尚知識(shí)，乃至奉若神明。但知識(shí)于人，并非有百利而無(wú)一害。事實(shí)上知識(shí)的運(yùn)用給人帶來(lái)的危害，比比皆是，尤其是在現(xiàn)代社會(huì)。諸如，嚴(yán)重的工業(yè)污染及其引發(fā)的種種疾病，生物特征識(shí)別技術(shù)對(duì)隱私的侵犯，基因改造種子技術(shù)對(duì)各國(guó)農(nóng)民的盤(pán)剝，聲吶技術(shù)對(duì)海洋生物的摧殘，頁(yè)巖層油氣開(kāi)采誘發(fā)了地震，以無(wú)人機(jī)為代表的AI武器化改變了戰(zhàn)爭(zhēng)，更別說(shuō)智能經(jīng)濟(jì)即將造成的大失業(yè)了：所有這些，都與知識(shí)生產(chǎn)的失控和不負(fù)責(zé)任的濫用相關(guān)。匹配人的福祉，本應(yīng)是知識(shí)生產(chǎn)的首要目的，如今卻被忽視、貶低，甚至刻意排斥了。因此，當(dāng)務(wù)之急，是恢復(fù)知識(shí)生產(chǎn)與人類(lèi)福祉的對(duì)接，把有利于人類(lèi)的生息繁衍，列為包括AI研發(fā)在內(nèi)一切知識(shí)創(chuàng)新的評(píng)價(jià)標(biāo)準(zhǔn)。如果現(xiàn)時(shí)做不到這一點(diǎn)，或者拿不準(zhǔn)利弊大小，是否可控，那就應(yīng)該暫停研發(fā)、生產(chǎn)和運(yùn)用。唯有這樣，才能給人類(lèi)生境一個(gè)休憩和復(fù)原的機(jī)會(huì)。很可能，這是留給我們的唯一一次機(jī)會(huì)。為此，需要達(dá)成全人類(lèi)的共識(shí)和團(tuán)結(jié)一致。對(duì)此，我并不樂(lè)觀，但抱有希望。編輯 | 王儒西
本文原載《文化縱橫》2025年第2期，原題為《知識(shí)生產(chǎn)：從圖書(shū)館走向機(jī)器智能》。歡迎個(gè)人分享，媒體轉(zhuǎn)載請(qǐng)聯(lián)系本公眾號(hào)。
|
