《計算機仍然不能做什么——人工理性批判》

MIT版導言

《計算機不能做什么》的這個版本不僅僅是出版商的變化和書名的微小更改，也意味著形勢的變化。現(xiàn)在這本書不是提供在持續(xù)進行的辯論中的一種有爭議的立場，而是過去一段歷史期間的觀點?，F(xiàn)在20世紀快要結束，而這個世紀偉大的夢想之一顯然也正在終結。差不多半個世紀以前，計算機的先驅(qū)阿倫·圖靈曾經(jīng)提出：使用規(guī)則和事實編程的高速數(shù)字計算機，可以顯示出智能行為。這樣在后來就誕生了人工智能。然而，經(jīng)過了50年的努力，現(xiàn)在除少數(shù)頑固者外，顯然產(chǎn)生通用智能的努力已告失敗。這種失敗并不意味著此類型的人工智能是不可能的，也無人能提出這樣的否定性證據(jù)。但是至少在目前，或多或少已經(jīng)證明：基于人類通過規(guī)則和事實產(chǎn)生智能的假設的研究綱領，已經(jīng)走到了盡頭，沒有理由認為它會一直成功。事實上，對于約翰·豪奇蘭德（John Haugeland）所稱的好的舊AI（GOFAI：Good Old-fashioned AI），就是科學哲學家稱為退化的研究綱領的一個典型例子。

伊姆雷·拉卡托斯定義的退化的研究綱領，是指這樣的科學計劃：它以美好的前景而開始，在一個有限的領域內(nèi)提供新的研究方法而產(chǎn)生印象深刻的成果。不可避免地幾乎所有研究者都想在更大范圍內(nèi)應用新方法，開始時在某些方面也會有與舊研究方法下相同的一些問題。只要新的研究方法成功，研究綱領將會擴展并吸引后來者。然而，如果研究者一開始遇到了未預見到但又重要的現(xiàn)象，而它們始終與新技術相抵觸，那么研究綱領將會停滯不前。只要更進步的備選方法出現(xiàn)，研究者將會盡快放棄此綱領。

我們在GOFAI的歷史中看到的正是這種模式。GOFAI的研究綱領因艾倫· 紐厄爾（Allen Newell）與赫爾伯特·西蒙（Herbert Simon）在蘭德公司的工作而具有良好開端。50年代后期，紐厄爾和西蒙證實了計算機能完成比計算更多的任務。他們演示了能用于表示任何事物的計算機二進制位串，包括表示真實世界的各種特征，這樣他們的研究綱領就能被用為把這些特征聯(lián)系起來的規(guī)則。然后，計算機中的表達式結構表征了具有相同結構特征的世界的事務狀態(tài)，而計算機作為物理符號系統(tǒng)存儲和操作這些表征（Representations）。這樣，紐厄爾和西蒙宣稱：計算機能模擬智能的各個重要方面。心靈的信息加工模型由此誕生了。

紐厄爾和西蒙的早期工作令人印象深刻，到60年代后期，由于一系列微世界的成功，例如：特瑞·溫諾格拉德（Terry Winograd）的SHRDLU程序，它能通過移動模擬的理想方塊來響應類英語的命令（參見第12-13頁），人工智能已經(jīng)成為一個欣欣向榮的研究綱領。這個領域擁有博士學位項目、專業(yè)團體、國際會議甚至大師?？瓷先ニ幸龅木褪菙U展、組合和提出更現(xiàn)實的微世界，它很快會擁有真正的人工智能。麻省理工學院的人工智能項目主管馬文·明斯基（Marvin Minsky）宣布：“在一代人的時間內(nèi)，將根本上解決創(chuàng)造’人工智能’的問題”。

接下來，這個領域突然遇到了未預料到的困難。由于通過編程理解兒童故事的努力失敗，麻煩出現(xiàn)了（參見第57-62頁）。程序缺乏四歲兒童的常識，沒人知道怎樣賦予程序理解最簡單的故事所必須的背景知識。一位熟悉的理性主義者的夢想成為問題的關鍵。GOFAI基于笛卡爾式的觀念：所有的理解都是形式化的并使用恰當?shù)姆柋碚?。對笛卡爾而言，這些表征是原子觀念（primitive ideas）或?qū)嶓w（elements）組成的復雜描述?？档略黾恿艘粋€重要的觀點：所有的概念是關聯(lián)這些實體的規(guī)則。弗雷格指出這些規(guī)則可以形式化，這樣無須本能和解釋即可操作它們?？紤]到計算機作為可能的形式符號處理機的性質(zhì)，人工智能將這種理性主義者的愿景變成了它的研究綱領，并開始搜索能掌握日常常識的原語(primitives)和形式化規(guī)則。常識理解由巨大的數(shù)據(jù)結構表征，這個數(shù)據(jù)結構由事實以及關聯(lián)和應用這些事實的規(guī)則組成。然而已經(jīng)證明，這比任何一個人期望的形式化要難得多，更不用說對常識的理論的形式化了。這不是明斯基希望的僅僅是對1000萬種事實編排目錄的問題。明斯基的態(tài)度在十四年的過程中完全改變了。1982年他告訴記者：“人工智能問題是曾研究過的最困難的科學之一”。

回想起來，我從1965年以來的工作，是不斷變化地嘗試對我的直覺進行辯護，這基于我對馬丁·海德格爾，莫里斯·梅洛·龐蒂以及后來的維特根斯坦的研究，而GOFAI的研究計劃最終失敗了。對與我們相關聯(lián)的心智的符號信息處理模型的內(nèi)在困難，我首先認識到是我們的整體感，以及需要涉及持續(xù)進行的活動，而符號表征是原子論的并且總體上與這些活動分離開來。到1979年《計算機不能做什么》出版第二版時，我曾經(jīng)含糊地稱為整體上下文環(huán)境所指出的表征問題，已逐漸被人工智能研究者意識到是一個嚴重的障礙。因此我在新的導言中試圖指出他們所稱的常識問題，并不是真正關于如何表征知識的問題。某種程度上，當我們指涉事和人時，允許我們體驗當下所與之相關的日常常識背景的理解似乎就是實踐知識（know-how）。除了構成人類的所有興趣、感覺、動機和身體上的能力之外，這種問題恰好是這種實踐知識(know-how)，即它會被作為理性知識(knowledge)轉達給計算機——作為龐大和復雜的信念系統(tǒng)——在符號表征中，它組成我們仿佛明顯成為人類的那些不可言喻的、前概念的背景理解，而這對我而言這是無望的任務。

基于這個原因我質(zhì)疑GOFAI技術能解決常識問題，但這不能證明我這樣的懷疑：即組成常識背景的實踐知識本身不能由事實和規(guī)則構成的數(shù)據(jù)結構表征。假設我們的背景知識主要由指涉事和人的技巧而不是由關于它們的事實組成，我所需要的就是反對那些假設這種技巧能以符號化形式表征的人們的觀點。我的兄弟斯圖阿特（Stuart）原已在技巧獲取(skill acquisition)的現(xiàn)象學解釋中提出過一個遺漏的觀點。

他指出，技巧獲取通常以學生學習和運用規(guī)則開始，這些規(guī)則用來掌握上下文無關的原理。這在信息加工模型中有些是真的。這樣象棋初學者學習遵循與諸如中心控制（center control）和子力平衡（material balance）等特性有關的規(guī)則。然而，在一個人開始理解某領域之后，他看到的是有意義的各個方面，而不是上下文無關的各種特性。于是更有經(jīng)驗的棋手看到的是諸如不平衡的兵卒結構或者王翼薄弱等上下文相關的特性。接著一個有能力的玩家學會設置目標，然后就基于目標達成所相關的角度來評判當前局勢。接下來在積累大量經(jīng)驗后到了精通的階段，玩家能夠?qū)⒕謩菀曌骶哂汹呌诖_定結局的確定意義(certain significance)，而局勢的某些方面主要與結局相關。例如，假設有一盤合適的棋盤局勢（board position），幾乎所有的高手在觀察幾秒鐘后都會看到如果要贏白棋必須攻擊王翼。

最終，在積累更多經(jīng)驗之后，一個人達到了立即看出來必須如何走的水平。例如，一個國際象棋大師，不僅幾乎能馬上看出局勢中的問題，而且腦海中也立刻想出了正確的應對。不用去猜想這是初學者的特性及規(guī)則，還是其他特性或規(guī)則在這種專家級的表現(xiàn)中發(fā)揮作用。如愛德華·費根鮑曼（Edward Feigenbaum）所表明的：我們在學習系鞋帶時曾遵循的規(guī)則，并不表示任何時候我們系帶子時仍然必須無意識地遵循同樣的規(guī)則。這就象是生成因為我們在學習如何騎自行車時需要訓練的輪子，那么現(xiàn)在我們騎車的任何時候都必須用一個看不見的輪子。沒有理由認為獲得技巧時起作用的規(guī)則也會在后來的應用中起作用。

然而，當《機器心智》（《Mind Over Machine》）出版時，斯圖阿特和我面對同樣的反對意見：它針對我在《計算機不能做什么》中對整體論的呼吁。批評者說你可以描述如何感知專業(yè)技能，但我們解釋智能行為產(chǎn)生的唯一途徑是用符號表征，因此這必定有潛在的因果機制。紐厄爾和西蒙采取符號人工智能的這種類型的辯護：

“符號系統(tǒng)假設的主要證據(jù)。。。是負面的：即關于智能活動如何通過人還是機器完成的特定假說的缺位?！?/span>

為了回應物理符號系統(tǒng)研究計劃的這種“余者可能是（what else could be）”的辯護，我們在《機器心智》中呼吁一種有點含糊和似乎不合情理的觀念：即大腦可能存儲與適當?shù)膽獙ο嗯鋵Φ木謩莸娜D像，從而可以用過去曾成功地應對相同局勢的方法來應對局勢。關鍵概念是在全息圖像匹配時人們有一個相似性識別的模型，它不需要根據(jù)一組通用的特征來分析兩個模式的相似性。但是這個模型是沒有說服力的，沒人發(fā)現(xiàn)在大腦中有任何類似全息圖像的東西。

這時候，就象《摩登時代》的查理斯·卓別林正好在革命者聚集時拿著紅旗從檢修孔出來一樣，我們高興地發(fā)現(xiàn)自己被迅速發(fā)展的不同類型的神經(jīng)網(wǎng)絡建模者包圍。當常識知識問題繼續(xù)阻礙在問題求解中如此有效的技術，而模式識別和學習已被證實比預想得要難解決得多時，在長時間休眠后使用計算機來產(chǎn)生智能的替代方法作為有吸引力的研究綱領重新浮現(xiàn)。神經(jīng)網(wǎng)絡革命者——也成為聯(lián)結主義者的勝利到來，結束了GOFAI研究綱領的退化。

我們通過對大腦學習能力而不是對世界的心靈符號表征建立模型的提議，不是從哲學中而是從很快被稱為神經(jīng)科學的領域獲得靈感。這直接來自于赫布（D.O.Hebb）工作的啟迪，他在1949年提出如果神經(jīng)元A和神經(jīng)元B的同時興奮增加了兩者之間的連接強度，大量神經(jīng)元就能夠?qū)W習。50年代后期弗蘭克·羅森布萊特（Frank Rosenblatt）追隨這種先知灼見，他考慮到由于可能難以形式化智能行為，人工智能應代之以試圖對神經(jīng)元網(wǎng)絡學習區(qū)分模式和恰當響應的過程進行自動化。尋求符號表征的研究者希望獲得能賦予計算機解決確定問題或區(qū)分確定類型模式能力的形式化結構。相反，羅森布萊特想建造一個物理裝置，或者在數(shù)字計算機上模擬這樣的裝置，它能產(chǎn)生自己的能力。

當符號人工智能似乎走入困境時，唐納德·諾曼（Donald Norman）的平行分布式加工小組和其他人開始審查羅森布萊特項目的種種變化并獲得了令人驚訝的成功。很快，受挫的人工智能研究者——他們疲于堅持杰瑞·萊特文（Jerry Lettvin）在80年代早期稱為“僅有的救命稻草（the only straw afloat）”的研究綱領，開始投靠這個復活的范式。羅姆哈特（Rumelhart）,麥克萊蘭德（McClelland），以及平行分布式加工研究小組的兩大卷作品，《平行分布式加工》，在1986年上市時有6000本延期交貨，現(xiàn)在還有超過45000套在印刷中。就像蘇聯(lián)的解體一樣，GOFAI研究綱領崩潰的速度使每個人，甚至是我們當中預測其或早或晚會發(fā)生的人都大吃一驚。