人工智慧史

人工智慧的歷史源遠流長。在古代的神話傳說中，技藝高超的工匠可以製作人造人，併為其賦予智慧或意識。現代意義上的 AI 始於古典哲學家試圖將人類的思維過程描述為對符號的機械操作。20 世紀 40 年代，基於抽象數學推理的可程式設計數字電腦的發明使一批科學家開始嚴肅地探討構造一個電子大腦的可能性。

1956 年，人工智慧的研究領域確立於在達特茅斯學院舉行的會議。此次會議的參加者在接下來的數十年間成為 AI 研究領域的領軍人物。他們中有許多人曾預言，與人類具有同等智慧水平的機器將在不超過一代人的時間中出現。同時，上千萬美元被投入到 AI 研究中，以期實現這一目標。

然而，研究人員發現自己大大低估了這一工程的難度，人工智慧史上共出現過幾次低潮（也被稱作 AI 之冬）。由於詹姆斯・萊特希爾爵士的批評和國會方面的壓力，美國和英國政府於 1973 年停止向沒有明確目標的人工智慧研究專案撥款。七年之後受到日本政府研究規劃的刺激，美國政府和企業再次在 AI 領域投入數十億研究經費，但這些投資者在 80 年代末重新撤回了投資。AI 研究領域諸如此類的高潮和低谷不斷交替出現；至今仍有人對 AI 的前景作出異常樂觀的預測。

儘管在政府官僚和風投資本家那裡經歷了大起大落，AI 領域仍在取得進展。某些在 20 世紀 70 年代被認為不可能解決的問題今天已經獲得了圓滿解決並已成功應用在商業產品上。與第一代 AI 研究人員的樂觀估計不同，具有與人類同等智慧水平的機器至今仍未出現。圖靈在 1950 年發表的一篇催生現代智慧機器研究的著名論文中稱，“我們只能看到眼前的一小段距離…… 但是，我們可以看到仍有許多工作要做”。

在 21 世紀的第一個十年，機器學習得益於新方法的出現、效能強大的計算機硬體的應用龐大資料集的收集，被廣泛應用解決學術和工業上的問題，這重新引發了人們對 AI 的投資和興趣。

先驅

奧特曼寫道：“某種形式上的人工智慧是一個遍佈於西方知識分子歷史的觀點，是一個急需被實現的夢想，” 先民對人工智慧的追求表現在諸多神話，傳說，故事，預言以及製作機器人偶（自動機）的實踐之中。

1.1 神話，幻想和預言中的 AI

希臘神話中已經出現了機械人和人造人，如赫淮斯托斯的黃金機器人和皮格馬利翁的伽拉忒亞。中世紀出現了使用巫術或鍊金術將意識賦予無生命物質的傳說，如賈比爾的 Takwin，帕拉塞爾蘇斯的何蒙庫魯茲和 Judah Loew 的魔像。19 世紀的幻想小說中出現了人造人和會思考的機器之類題材，例如瑪麗・雪萊的《弗蘭肯斯坦》和卡雷爾・恰佩克的《羅素姆的萬能機器人》。Samuel Butler 的《機器中的達爾文（Darwin among the Machines）》一文（1863）探討了機器透過自然選擇進化出智慧的可能性。至今人工智慧仍然是科幻小說的重要元素。

1.2 自動人偶

許多文明中都有創造自動人偶的傑出工匠，例如偃師（中國西周），希羅（希臘），加扎利和 Wolfgang von Kempelen 等等。已知最古老的 “機器人” 是古埃及和古希臘的聖像，忠實的信徒認為工匠為這些神像賦予了思想，使它們具有智慧和激情。赫耳墨斯・特里斯墨吉斯忒斯（赫耳墨斯・特里斯墨吉斯忒斯）寫道 “當發現神的本性時，人就能夠重現他”。

1.3 形式推理

人工智慧的基本假設是人類的思考過程可以機械化。對於機械化推理（即所謂 “形式推理（formal reasoning）”）的研究已有很長曆史。中國，印度和希臘哲學家均已在公元前的第一個千年裡提出了形式推理的結構化方法。他們的想法為後世的哲學家所繼承和發展，其中著名的有亞里士多德（對三段論邏輯進行了形式分析），歐幾里得（其著作《幾何原本》是形式推理的典範），花剌子密（代數學的先驅，“algorithm” 一詞由他的名字演變而來）以及一些歐洲經院哲學家，如奧卡姆的威廉和鄧斯・司各脫。

馬略卡哲學家拉蒙・柳利（1232-1315）開發了一些 “邏輯機”，試圖透過邏輯方法獲取知識。 柳利的機器能夠將基本的，無可否認的真理透過機械手段用簡單的邏輯操作進行組合，以求生成所有可能的知識。Llull 的工作對萊布尼茲產生了很大影響，後者進一步發展了他的思想。

在 17 世紀中，萊布尼茲，托馬斯・霍布斯和笛卡兒嘗試將理性的思考系統化為代數學或幾何學那樣的體系。霍布斯在其著作《利維坦》中有一句名言：“推理就是計算（reason is nothing but reckoning）。” 萊布尼茲設想了一種用於推理的普適語言（他的通用表意文字），能將推理規約為計算，從而使 “哲學家之間，就像會計師之間一樣，不再需要爭辯。他們只需拿出鉛筆放在石板上，然後向對方說（如果想要的話，可以請一位朋友作為證人）：‘我們開始算吧。’” 這些哲學家已經開始明確提出形式符號系統的假設，而這一假設將成為 AI 研究的指導思想。

在 20 世紀，數理邏輯研究上的突破使得人工智慧好像呼之欲出。這方面的基礎著作包括布林的《思維的定律》與弗雷格的《概念文字》。基於弗雷格的系統，羅素和懷特海在他們於 1913 年出版的鉅著《數學原理》中對數學的基礎給出了形式化描述。這一成就激勵了希爾伯特，後者向 20 世紀 20 年代和 30 年代的數學家提出了一個基礎性的難題：“能否將所有的數學推理形式化？” 這個問題的最終回答由哥德爾不完備定理，圖靈機和 Alonzo Church 的 λ 演算給出。他們的答案令人震驚：首先，他們證明了數理邏輯的侷限性；其次（這一點對 AI 更重要），他們的工作隱含了任何形式的數學推理都能在這些限制之下機械化的可能性。

邱奇 - 圖靈論題暗示，一臺僅能處理 0 和 1 這樣簡單二元符號的機械裝置能夠模擬任意數學推理過程。這裡最關鍵的靈感是圖靈機：這一看似簡單的理論構造抓住了抽象符號處理的本質。這一創造激發科學家們探討讓機器思考的可能。

1.4 計算機科學

用於計算的機器古已有之；歷史上許多數學家對其作出了改進。19 世紀初，查爾斯・巴貝奇設計了一臺可程式設計計算機（“分析機”），但未能建造出來。愛達・勒芙蕾絲預言，這臺機器 “將創作出無限複雜，無限寬廣的精妙的科學樂章”。（她常被認為是第一個程式設計師，因為她留下的一些筆記完整地描述了使用這一機器計算伯努利數的方法。）

第一批現代計算機是二戰期間建造的大型譯碼機（包括 Z3，ENIAC 和 Colossus 等）。後兩個機器的理論基礎是圖靈和約翰・馮・諾伊曼提出和發展的學說。

人工智慧的誕生：1943 - 1956

在 20 世紀 40 年代和 50 年代，來自不同領域（數學，心理學，工程學，經濟學和政治學）的一批科學家開始探討製造人工大腦的可能性。1956 年，人工智慧被確立為一門學科。

2.1 控制論與早期神經網路

（即高低電平代表的二進位制訊號）。圖靈的計算理論證明數字訊號足以描述任何形式的計算。這些密切相關的想法暗示了構建電子大腦的可能性。

這一階段的工作包括一些機器人的研發，例如 W. Grey Walter 的 “烏龜（turtles）”，還有 “約翰霍普金斯獸”（Johns Hopkins Beast）。這些機器並未使用計算機，數位電路和符號推理；控制它們的是純粹的類比電路。

Walter Pitts 和 Warren McCulloch 分析了理想化的人工神經元網路，並且指出了它們進行簡單邏輯運算的機制。他們是最早描述所謂 “神經網路” 的學者。馬文・明斯基是他們的學生，當時是一名 24 歲的研究生。1951 年他與 Dean Edmonds 一道建造了第一臺神經網路機，稱為 SNARC。在接下來的五十年中，明斯基是 AI 領域最重要的領導者和創新者之一。

2.2 遊戲 AI

1951 年，克里斯托弗・斯特雷奇使用曼徹斯特大學的 Ferranti Mark 1 機器寫出了一個西洋跳棋（checkers）程式；迪特里希・普林茨（Dietrich Prinz）則寫出了一個國際象棋程式。亞瑟・李・塞謬爾（Arthur Samuel）在五十年代中期和六十年代初開發的西洋棋程式的棋力已經可以挑戰具有相當水平的業餘愛好者。遊戲 AI 一直被認為是評價 AI 進展的一種標準。

2.3 圖靈測試

1950 年，圖靈發表了一篇劃時代的論文，文中預言了創造出具有真正智慧的機器的可能性。由於注意到 “智慧” 這一概念難以確切定義，他提出了著名的圖靈測試：如果一臺機器能夠與人類展開對話（透過電傳裝置）而不能被辨別出其機器身份，那麼稱這臺機器具有智慧。這一簡化使得圖靈能夠令人信服地說明 “思考的機器” 是可能的。論文中還回答了對這一假說的各種常見質疑。圖靈測試是人工智慧哲學方面第一個嚴肅的提案。

2.4 符號推理與 “邏輯理論家” 程式

50 年代中期，隨著數位計算機的興起，一些科學家直覺地感到可以進行數字操作的機器也應當可以進行符號操作，而符號操作可能是人類思維的本質。這是創造智慧機器的一條新路。

1955 年，艾倫・紐厄爾和後來榮獲諾貝爾獎的赫伯特・西蒙在 J. C. Shaw 的協助下開發了 “邏輯理論家（Logic Theorist）”。這個程式能夠證明《數學原理》中前 52 個定理中的 38 個，其中某些證明比原著更加新穎和精巧。Simon 認為他們已經 “解決了神秘的心 / 身問題，解釋了物質構成的系統如何獲得心靈的性質。” （這一斷言的哲學立場後來被約翰・羅傑斯・希爾勒稱為 “強人工智慧”，即機器可以像人一樣具有思想。）

2.5 1956 年達特茅斯會議：AI 的誕生

1956 年達特矛斯會議的組織者是馬文・明斯基，約翰・麥卡錫和另兩位資深科學家克勞德・夏農以及內森・羅徹斯特（Nathan Rochester），後者來自 IBM。會議提出的斷言之一是 “學習或者智慧的任何其他特性的每一個方面都應能被精確地加以描述，使得機器可以對其進行模擬。” 與會者包括雷・索羅門諾夫（Ray Solomonoff），奧利佛・塞爾弗裡奇（Oliver Selfridge），Trenchard More，亞瑟・山謬爾（Arthur Samuel），艾倫・紐厄爾和赫伯特・西蒙，他們中的每一位都將在 AI 研究的第一個十年中作出重要貢獻。會上紐厄爾和西蒙討論了 “邏輯理論家”，而麥卡錫則說服與會者接受 “人工智慧” 一詞作為本領域的名稱。1956 年達特矛斯會議上 AI 的名稱和任務得以確定，同時出現了最初的成就和最早的一批研究者，因此這一事件被廣泛承認為 AI 誕生的標誌。

黃金年代：1956 - 1974

達特矛斯會議之後的數年是大發現的時代。對許多人而言，這一階段開發出的程式堪稱神奇：計算機可以解決代數應用題，證明幾何定理，學習和使用英語。當時大多數人幾乎無法相信機器能夠如此 “智慧”。 研究者們在私下的交流和公開發表的論文中表達出相當樂觀的情緒，認為具有完全智慧的機器將在二十年內出現。 DARPA（國防高等研究計劃署）等政府機構向這一新興領域投入了大筆資金。

3.1 研究工作

從 50 年代後期到 60 年代湧現了大批成功的 AI 程式和新的研究方向。下面列舉其中最具影響的幾個。

3.1.1 搜尋式推理

許多 AI 程式使用相同的基本演算法。為實現一個目標（例如贏得遊戲或證明定理），它們一步步地前進，就像在迷宮中尋找出路一般；如果遇到了死衚衕則進行回溯。這就是 “搜尋式推理”。

這一思想遇到的主要困難是，在很多問題中，“迷宮” 裡可能的線路總數是一個天文數字（所謂 “指數爆炸”）。研究者使用啟發式演算法去掉那些不太可能匯出正確答案的支路，從而縮小搜尋範圍。

艾倫・紐厄爾和赫伯特・西蒙試圖透過其 “通用解題器（General Problem Solver）” 程式，將這一演算法推廣到一般情形。另一些基於搜尋演算法證明幾何與代數問題的程式也給人們留下了深刻印象，例如赫伯特・吉寧特（Herbert Gelernter）的幾何定理證明機（1958）和馬文・李・閔斯基的學生 James Slagle 開發的 SAINT（1961）。還有一些程式透過搜尋目標和子目標作出決策，如斯坦福大學為控制機器人 Shakey 而開發的 STRIPS 系統。

3.1.2 自然語言

AI 研究的一個重要目標是使計算機能夠透過自然語言（例如英語）進行交流。早期的一個成功範例是 Daniel Bobrow 的程式 STUDENT，它能夠解決高中程度的代數應用題。

如果用節點表示語義概念（例如 “房子”，“門”），用節點間的連線表示語義關係（例如 “有 -- 一個”），就可以構造出 “語義網（semantic net）”。第一個使用語義網的 AI 程式由 Ross Quillian 開發； 而最為成功（也是最有爭議）的一個則是 Roger Schank 的 “概念關聯（Conceptual Dependency）”。

Joseph Weizenbaum 的 ELIZA 是第一個聊天機器人，可能也是最有趣的會說英語的程式。與 ELIZA “聊天” 的使用者有時會誤以為自己是在和人類，而不是和一個程式，交談。但是實際上 ELIZA 根本不知道自己在說什麼。它只是按固定套路作答，或者用符合語法的方式將問題複述一遍。

3.1.3 微世界

60 年代後期，麻省理工大學 AI 實驗室的馬文・閔斯基和西摩爾・派普特建議 AI 研究者們專注於被稱為 “微世界” 的簡單場景。他們指出在成熟的學科中往往使用簡化模型幫助基本原則的理解，例如物理學中的光滑平面和完美剛體。許多這類研究的場景是 “積木世界”，其中包括一個平面，上面擺放著一些不同形狀，尺寸和顏色的積木。

在這一指導思想下，傑拉德・傑伊・薩斯曼（研究組長），阿道佛・古茲曼（Adolfo Guzman），大衛・瓦爾茲（David Waltz，“約束傳播（constraint propagation）” 的提出者），特別是 Patrick Winston 等人在機器視覺領域作出了創造性貢獻。同時，Minsky 和 Papert 製作了一個會搭積木的機器臂，從而將 “積木世界” 變為現實。微世界程式的最高成就是 Terry Winograd 的 SHRDLU，它能用普通的英語句子與人交流，還能作出決策並執行操作。

3.2 樂觀思潮

第一代 AI 研究者們曾作出瞭如下預言:

1958 年，艾倫・紐厄爾和赫伯特・西蒙：“十年之內，數字計算機將成為國際象棋世界冠軍” “十年之內，數字計算機將發現並證明一個重要的數學定理”。
1965 年，赫伯特・西蒙：“二十年內，機器將能完成人能做到的一切工作。”
1967 年，馬文・閔斯基：“一代之內…… 創造‘人工智慧’的問題將獲得實質上的解決。”
1970 年，馬文・閔斯基：“在三到八年的時間裡我們將得到一臺具有人類平均智慧的機器。”

3.3 經費

1963 年 6 月，MIT 從新建立的 ARPA（即後來的 DARPA，國防高等研究計劃局）獲得了二百二十萬美元經費，用於資助 MAC 工程，其中包括 Minsky 和 McCarthy 五年前建立的 AI 研究組。此後 ARPA 每年提供三百萬美元，直到七十年代為止。ARPA 還對艾倫・紐厄爾和赫伯特・西蒙在卡內基梅隆大學的工作組以及斯坦福大學 AI 專案（由 John McCarthy 於 1963 年建立）進行類似的資助。另一個重要的 AI 實驗室於 1965 年由 Donald Michie 在愛丁堡大學建立。在接下來的許多年間，這四個研究機構一直是 AI 學術界的研究（和經費）中心。

經費幾乎是無條件地提供的：時任 ARPA 主任的 J. C. R. Licklider 相信他的組織應該 “資助人，而不是專案”，並且允許研究者去做任何感興趣的方向。這導致了 MIT 無約無束的研究氛圍及其 hacker 文化的形成，但是好景不長。

第一次 AI 低谷：1974 - 1980

到了 70 年代，AI 開始遭遇批評，隨之而來的還有資金上的困難。AI 研究者們對其課題的難度未能作出正確判斷：此前的過於樂觀使人們期望過高，當承諾無法兌現時，對 AI 的資助就縮減或取消了。同時，由於馬文・閔斯基對感知器的激烈批評，聯結主義（即神經網路）銷聲匿跡了十年。70 年代後期，儘管遭遇了公眾的誤解，AI 在邏輯程式設計，常識推理等一些領域還是有所進展。

4.1 問題

70 年代初，AI 遭遇了瓶頸。即使是最傑出的 AI 程式也只能解決它們嘗試解決的問題中最簡單的一部分，也就是說所有的 AI 程式都只是 “玩具”。AI 研究者們遭遇了無法克服的基礎性障礙，儘管某些侷限後來被成功突破。

計算機的運算能力。當時的計算機有限的記憶體和處理速度不足以解決任何實際的 AI 問題。例如，羅斯・奎利恩（Ross Quillian）在自然語言方面的研究結果只能用一個含二十個單詞的詞彙表進行演示，因為記憶體只能容納這麼多。1976 年，漢斯・莫拉維克指出，計算機離智慧的要求還差上百萬倍。他做了個類比：人工智慧需要強大的計算能力，就像飛機需要大功率動力一樣，低於一個門限時是無法實現的；但是隨著能力的提升，問題逐漸會變得簡單。
計算複雜性和指數爆炸。1972 年理查德・卡普根據史提芬・古克於 1971 年提出的 Cook-Levin 理論證明，許多問題只可能在指數時間內獲解（即，計算時間與輸入規模的冪成正比）。除了那些最簡單的情況，這些問題的解決需要近乎無限長的時間。這就意味著 AI 中的許多玩具程式恐怕永遠也不會發展為實用的系統。
常識與推理。許多重要的 AI 應用，例如機器視覺和自然語言，都需要大量對世界的認識資訊。程式應該知道它在看什麼，或者在說些什麼。這要求程式對這個世界具有兒童水平的認識。研究者們很快發現這個要求太高了：1970 年沒人能夠做出如此巨大的資料庫，也沒人知道一個程式怎樣才能學到如此豐富的資訊。
莫拉維克悖論。證明定理和解決幾何問題對計算機而言相對容易，而一些看似簡單的任務，如人臉識別或穿過屋子，實現起來卻極端困難。這也是 70 年代中期機器視覺和機器人方面進展緩慢的原因。
框架和資格問題。採取邏輯觀點的 AI 研究者們（例如 John McCarthy）發現，如果不對邏輯的結構進行調整，他們就無法對常見的涉及自動規劃（planning or default reasoning）的推理進行表達。為解決這一問題，他們發展了新邏輯學（如非單調邏輯（non-monotonic logics）和模態邏輯（modal logics））。

4.2 停止撥款

由於 AI 的進展緩慢，對 AI 提供資助的機構（如英國政府，DARPA 和 NRC）對無方向的 AI 研究逐漸停止了資助。早在 1966 年 ALPAC（Automatic Language Processing Advisory Committee，自動語言處理顧問委員會）的報告中就有批評機器翻譯進展的意味，預示了這一局面的來臨。NRC（National Research Council，美國國家科學委員會）在撥款二千萬美元后停止資助。1973 年詹姆斯・萊特希爾針對英國 AI 研究狀況的報告批評了 AI 在實現其 “宏偉目標” 上的完全失敗，並導致了英國 AI 研究的低潮（該報告特別提到了指數爆炸問題，以此作為 AI 失敗的一個原因）。DARPA 則對 CMU 的語音理解研究專案深感失望，從而取消了每年三百萬美元的資助。到了 1974 年已經很難再找到對 AI 專案的資助。

Hans Moravec 將批評歸咎於他的同行們不切實際的預言：“許多研究者落進了一張日益浮誇的網中”。還有一點，自從 1969 年 Mansfield 修正案通過後，DARPA 被迫只資助 “具有明確任務方向的研究，而不是無方向的基礎研究”。60 年代那種對自由探索的資助一去不復返；此後資金只提供給目標明確的特定專案，比如自動坦克，或者戰役管理系統。

4.3 來自大學的批評

一些哲學家強烈反對 AI 研究者的主張。其中最早的一個是 John Lucas，他認為哥德爾不完備定理已經證明形式系統（例如計算機程式）不可能判斷某些陳述的真理性，但是人類可以。修伯特・德雷福斯（Hubert Dreyfus）諷刺六十年代 AI 界那些未實現的預言，並且批評 AI 的基礎假設，認為人類推理實際上僅涉及少量 “符號處理”，而大多是具體的，直覺的，下意識的 “竅門（know how）”。 約翰・希爾勒於 1980 年提出 “中文房間” 實驗，試圖證明程式並不 “理解” 它所使用的符號，即所謂的 “意向性（intentionality）” 問題。希爾勒認為，如果符號對於機器而言沒有意義，那麼就不能認為機器是在 “思考”。

AI 研究者們並不太把這些批評當回事，因為它們似乎有些離題，而計算複雜性和 “讓程式具有常識” 等問題則顯得更加緊迫和嚴重。對於實際的計算機程式而言，“常識” 和 “意向性” 的區別並不明顯。馬文・閔斯基提到德雷福斯和希爾勒時說，“他們誤解了，所以應該忽略”。在 MIT 任教的德雷福斯遭到了 AI 陣營的冷遇：他後來說，AI 研究者們 “生怕被人看到在和我一起吃午飯”。 ELIZA 程式的作者約瑟夫・維森鮑姆感到他的同事們對待德雷福斯的態度不太專業，而且有些孩子氣。雖然他直言不諱地反對德雷福斯的論點，但他 “清楚地表明瞭他們待人的方式不對”。

約瑟夫・維森鮑姆後來開始思考 AI 相關的倫理問題，起因是 Kenneth Colby 開發了一個模仿醫師的聊天機器人 DOCTOR，並用它當作真正的醫療工具。二人發生爭執；雖然 Colby 認為約瑟夫・維森鮑姆對他的程式沒有貢獻，但這於事無補。1976 年約瑟夫・維森鮑姆出版著作《計算機的力量與人類的推理》，書中表示人工智慧的濫用可能損害人類生命的價值。

4.4 感知器與聯結主義遭到冷落

感知器是神經網路的一種形式，由弗蘭克・羅森巴特（Frank Rosenblatt）於 1958 年提出。與多數 AI 研究者一樣，他對這一發明的潛力非常樂觀，預言說 “感知器最終將能夠學習，作出決策和翻譯語言”。整個六十年代裡這一方向的研究工作都很活躍。

1969 年 Minsky 和 Papert 出版了著作《感知器》，書中暗示感知器具有嚴重侷限，而 Frank Rosenblatt 的預言過於誇張。這本書的影響是破壞性的：聯結主義的研究因此停滯了十年。後來新一代研究者使這一領域獲得重生，並使其成為人工智慧中的重要部分；遺憾的是 Rosenblatt 沒能看到這些，他在《感知器》問世後不久即因遊船事故去世。

4.5 “簡約派（the neats）”：邏輯，Prolog 語言和專家系統

早在 1958 年，John McCarthy 就提出了名為 “納諫者（Advice Taker）” 的一個程式構想，將邏輯學引入了 AI 研究界。1963 年，J. Alan Robinson 發現了在計算機上實現推理的簡單方法：歸結（resolution）與合一（unification）演算法。然而，根據 60 年代末 McCarthy 和他的學生們的工作，對這一想法的直接實現具有極高的計算複雜度：即使是證明很簡單的定理也需要天文數字的步驟。70 年代 Robert Kowalsky 在 Edinburgh 大學的工作則更具成效：法國學者 Alain Colmerauer 和 Phillipe Roussel 在他的合作下開發出成功的邏輯程式語言 Prolog。Prolog 使用一組邏輯 (與「規則」和「」密切相關的「霍恩子句」)，並允許進行可處理的計算。規則持續帶來影響，為愛德華・費根鮑姆的專家系統以及艾倫・紐厄爾和赫伯特・西蒙的工作奠定基礎，使其完成了 Soar 及認知統一理論。

Dreyfus 等人針對邏輯方法的批評觀點認為，人類在解決問題時並沒有使用邏輯運算。心理學家 Peter Wason，Eleanor Rosch，阿摩司・特沃斯基，Daniel Kahneman 等人的實驗證明了這一點。McCarthy 則回應說，人類怎麼思考是無關緊要的：真正想要的是解題機器，而不是模仿人類進行思考的機器。

4.6 “蕪雜派（the scruffies）”：框架和指令碼

對 McCarthy 的做法持批評意見的還有他在 MIT 的同行們。馬文・閔斯基，Seymour Papert 和 Roger Schank 等試圖讓機器像人一樣思考，使之能夠解決 “理解故事” 和 “目標識別” 一類問題。為了使用 “椅子”，“飯店” 之類最基本的概念，他們需要讓機器像人一樣作出一些非邏輯的假設。不幸的是，這些不精確的概念難以用邏輯進行表達。Gerald Sussman 注意到，“使用精確的語言描述本質上不精確的概念，並不能使它們變得精確起來”。Schank 用 “蕪雜（scruffy）” 一詞描述他們這一 “反邏輯” 的方法，與 McCarthy，Kowalski，Feigenbaum，Newell 和 Simon 等人的 “簡約（neat）” 方案相對。

在 1975 年的一篇開創性論文中，Minsky 注意到與他共事的 “蕪雜派” 研究者在使用同一型別的工具，即用一個框架囊括所有相關的常識性假設。例如，當我們使用 “鳥” 這一概念時，腦中會立即浮現出一系列相關事實，如會飛，吃蟲子，等等。我們知道這些假設並不一定正確，使用這些事實的推理也未必符合邏輯，但是這一系列假設組成的結構正是我們所想和所說的一部分。他把這個結構稱為 “框架（frames）”。Schank 使用了 “框架” 的一個變種，他稱之為 “指令碼（scripts）”，基於這一想法他使程式能夠回答關於一篇英語短文的提問。 多年之後的面向物件程式設計採納了 AI “框架” 研究中的 “繼承（inheritance）” 概念。

繁榮：1980—1987

在 80 年代，一類名為 “專家系統” 的 AI 程式開始為全世界的公司所採納，而 “知識處理” 成為了主流 AI 研究的焦點。日本政府在同一年代積極投資 AI 以促進其第五代計算機工程。80 年代早期另一個令人振奮的事件是 John Hopfield 和 David Rumelhart 使聯結主義重獲新生。AI 再一次獲得了成功。

5.1 專家系統獲得賞識

專家系統是一種程式，能夠依據一組從專門知識中推演出的邏輯規則在某一特定領域回答或解決問題。最早的示例由 Edward Feigenbaum 和他的學生們開發。1965 年起設計的 Dendral 能夠根據分光計讀數分辨混合物。1972 年設計的 MYCIN 能夠診斷血液傳染病。它們展示了這一方法的威力。

專家系統僅限於一個很小的知識領域，從而避免了常識問題；其簡單的設計又使它能夠較為容易地程式設計實現或修改。總之，實踐證明了這類程式的實用性。直到現在 AI 才開始變得實用起來。

1980 年 CMU 為 DEC（Digital Equipment Corporation，數字裝置公司）設計了一個名為 XCON 的專家系統，這是一個巨大的成功。在 1986 年之前，它每年為公司省下四千萬美元。全世界的公司都開始研發和應用專家系統，到 1985 年它們已在 AI 上投入十億美元以上，大部分用於公司內設的 AI 部門。為之提供支援的產業應運而生，其中包括 Symbolics，Lisp Machines 等硬體公司和 IntelliCorp，Aion 等軟體公司。

5.2 知識革命

專家系統的能力來自於它們儲存的專業知識。這是 80 年代以來 AI 研究的一個新方向。 Pamela McCorduck 在書中寫道，“不情願的 AI 研究者們開始懷疑，因為它違背了科學研究中對最簡化的追求。智慧可能需要建立在對分門別類的大量知識的多種處理方法之上。” “80 年代的教訓是智慧行為與知識處理關係非常密切。有時還需要在特定任務領域非常細緻的知識。” 知識庫系統和知識工程成為了 80 年代 AI 研究的主要方向。

第一個試圖解決常識問題的程式 Cyc 也在 80 年代出現，其方法是建立一個容納一個普通人知道的所有常識的巨型資料庫。發起和領導這一專案的 Douglas Lenat 認為別無捷徑，讓機器理解人類概念的唯一方法是一個一個地教會它們。這一工程幾十年也沒有完成。

5.3 重獲撥款：第五代工程

1981 年，日本經濟產業省撥款八億五千萬美元支援第五代計算機專案。其目標是造出能夠與人對話，翻譯語言，解釋影像，並且像人一樣推理的機器。令 “蕪雜派” 不滿的是，他們選用 Prolog 作為該專案的主要程式語言。

5.4 聯結主義的重生

1982 年，物理學家 John Hopfield 證明一種新型的神經網路（現被稱為 “Hopfield 網路”）能夠用一種全新的方式學習和處理資訊。大約在同時（早於 Paul Werbos），David Rumelhart 推廣了反向傳播演算法，一種神經網路訓練方法。這些發現使 1970 年以來一直遭人遺棄的聯結主義重獲新生。

1986 年由 Rumelhart 和心理學家 James McClelland 主編的兩卷本論文集 “分散式並行處理” 問世，這一新領域從此得到了統一和促進。90 年代神經網路獲得了商業上的成功，它們被應用於光字元識別和語音識別軟體。

第二次 AI 低谷：1987—1993

80 年代中商業機構對 AI 的追捧與冷落符合經濟泡沫的經典模式，泡沫的破裂也在政府機構和投資者對 AI 的觀察之中。儘管遇到各種批評，這一領域仍在不斷前進。來自機器人學這一相關研究領域的 Rodney Brooks 和 Hans Moravec 提出了一種全新的人工智慧方案。

6.1 人工智慧的低谷

“AI 之冬” 一詞由經歷過 1974 年經費削減的研究者們創造出來。他們注意到了對專家系統的狂熱追捧，預計不久後人們將轉向失望。事實被他們不幸言中：從 80 年代末到 90 年代初，AI 遭遇了一系列財政問題。

變天的最早徵兆是 1987 年 AI 硬體市場需求的突然下跌。Apple 和 IBM 生產的桌上型電腦效能不斷提升，到 1987 年時其效能已經超過了 Symbolics 和其他廠家生產的昂貴的 Lisp 機。老產品失去了存在的理由：一夜之間這個價值五億美元的產業土崩瓦解。

XCON 等最初大獲成功的專家系統維護費用居高不下。它們難以升級，難以使用，脆弱（當輸入異常時會出現莫名其妙的錯誤），成了以前已經暴露的各種各樣的問題（例如資格問題）的犧牲品。專家系統的實用性僅僅侷限於某些特定情景。

到了 80 年代晚期，戰略計算促進會大幅削減對 AI 的資助。DARPA 的新任領導認為 AI 並非 “下一個浪潮”，撥款將傾向於那些看起來更容易出成果的專案。

直到 1991 年，“第五代工程” 並沒有實現，事實上其中一些目標，比如 “與人展開交談”，直到 2010 年也沒有實現。 與其他 AI 專案一樣，期望比真正可能實現的要高得多。

6.2 軀體的重要性：Nouvelle AI 與嵌入式推理

80 年代後期，一些研究者根據機器人學的成就提出了一種全新的人工智慧方案。 他們相信，為了獲得真正的智慧，機器必須具有軀體 - 它需要感知，移動，生存，與這個世界互動。他們認為這些感知運動技能對於常識推理等高層次技能是至關重要的，而抽象推理不過是人類最不重要，也最無趣的技能（參見莫拉維克悖論）。他們號召「自底向上」地創造智慧，這一主張復興了從 60 年代就沉寂下來的控制論。

另一位先驅是在理論神經科學上造詣深厚的 David Marr，他於 70 年代來到 MIT 指導視覺研究組的工作。他排斥所有符號化方法（不論是 McCarthy 的邏輯學還是 Minsky 的框架），認為實現 AI 需要自底向上地理解視覺的物理機制，而符號處理應在此之後進行。

在發表於 1990 年的論文「大象不玩象棋（Elephants Don't Play Chess）」中，機器人研究者 Rodney Brooks 針對「物理符號系統假設」提出批評，他認為符號是可有可無的，因為「這個世界就是描述它自己最好的模型。它總是最新的。它總是包括了需要研究的所有細節。訣竅在於正確地，足夠頻繁地感知它。」 在 80 年代和 90 年代也有許多認知科學家反對基於符號處理的智慧模型，認為身體是推理的必要條件，這一理論被稱為「具身的心靈 / 理性 / 認知（embodied mind/reason/cognition）」論題。

AI：1993—2011

現已年過半百的 AI 終於實現了它最初的一些目標。它已被成功地用在技術產業中，不過有時是在幕後。這些成就有的歸功於計算機效能的提升，有的則是在高尚的科學責任感驅使下對特定的課題不斷追求而獲得的。不過，至少在商業領域裡 AI 的聲譽已經不如往昔了。“實現人類水平的智慧” 這一最初的夢想曾在 60 年代令全世界的想象力為之著迷，其失敗的原因至今仍眾說紛紜。各種因素的合力將 AI 拆分為各自為戰的幾個子領域，有時候它們甚至會用新名詞來掩飾 “人工智慧” 這塊被玷汙的金字招牌。AI 比以往的任何時候都更加謹慎，卻也更加成功。

7.1 里程碑和摩爾定律

1997 年 5 月 11 日，深藍成為戰勝國際象棋世界冠軍卡斯帕羅夫的第一個計算機系統。2005 年，Stanford 開發的一臺機器人在一條沙漠小徑上成功地自動行駛了 131 英里，贏得了 DARPA 挑戰大賽頭獎。2009 年，藍腦計畫聲稱已經成功地模擬了部分鼠腦。2011 年，IBM 沃森參加《危險邊緣》節目，在最後一集打敗了人類選手。2016 年 3 月，AlphaGo 擊敗李世乭，成為第一個不讓子而擊敗職業圍棋棋士的電腦圍棋程式。2017 年 5 月，AlphaGo 在中國烏鎮圍棋峰會的三局比賽中擊敗當時世界排名第一的中國棋手柯潔。

這些成就的取得並不是因為正規化上的革命。它們仍然是工程技術的複雜應用，但是計算機效能已經今非昔比了。事實上，深藍計算機比克里斯多福・斯特雷奇（Christopher Strachey）在 1951 年用來下棋的 Ferranti Mark 1 快一千萬倍。這種劇烈增長可以用摩爾定律描述：計算速度和記憶體容量每兩年翻一番。計算效能上的基礎性障礙已被逐漸克服。

7.2 智慧代理

90 年代，被稱為 “智慧代理” 的新正規化被廣泛接受。儘管早期研究者提出了模組化的分治策略， 但是直到 Judea Pearl，Alan Newell 等人將一些概念從決策理論和經濟學中引入 AI 之後現代智慧代理正規化才逐漸形成。當經濟學中的 “理性代理（rational agent）” 與計算機科學中的 “物件” 或 “模組” 相結合，“智慧代理” 正規化就完善了。

智慧代理是一個系統，它感知周圍環境，然後採取措施使成功的機率最大化。最簡單的智慧代理是解決特定問題的程式。已知的最複雜的智慧代理是理性的，會思考的人類。智慧代理正規化將 AI 研究定義為 “對智慧代理的學習”。這是對早期一些定義的推廣：它超越了研究人類智慧的範疇，涵蓋了對所有種類的智慧的研究。

這一正規化讓研究者們透過學習孤立的問題找到可證的並且有用的解答。它為 AI 各領域乃至經濟學，控制論等使用抽象代理概念的領域提供了描述問題和共享解答的一種通用語言。人們希望能找到一種完整的（像 Newell 的 Soar 那樣），允許研究者們應用互動的智慧代理建立起通用的智慧系統。

7.3 “簡約派” 的勝利

越來越多的 AI 研究者們開始開發和使用複雜的數學工具。人們廣泛地認識到，許多 AI 需要解決的問題已經成為數學，經濟學和運籌學領域的研究課題。數學語言的共享不僅使 AI 可以與其他學科展開更高層次的合作，而且使研究結果更易於評估和證明。AI 已成為一門更嚴格的科學分支。 Russell 和 Norvig（2003）將這些變化視為一場 “革命” 和 “簡約派的勝利”。

Judea Pearl 發表於 1988 年的名著將機率論和決策理論引入 AI。現已投入應用的新工具包括貝葉斯網路，隱馬爾可夫模型，資訊理論，隨機模型和經典最佳化理論。針對神經網路和進化演算法等 “計算智慧” 正規化的精確數學描述也被髮展出來。

7.4 幕後的 AI

AI 研究者們開發的演算法開始變為較大的系統的一部分。AI 曾經解決了大量的難題，這些解決方案在產業界起到了重要作用。應用了 AI 技術的有資料探勘，工業機器人，物流，語音識別，銀行業軟體，醫療診斷和 Google 搜尋引擎等。

AI 領域並未從這些成就之中獲得多少益處。AI 的許多偉大創新僅被看作計算機科學工具箱中的一件工具。尼克・博斯特羅姆解釋說，“很多 AI 的前沿成就已被應用在一般的程式中，不過通常沒有被稱為 AI。這是因為，一旦變得足夠有用和普遍，它就不再被稱為 AI 了。”

90 年代的許多 AI 研究者故意用其他一些名字稱呼他們的工作，例如資訊學，知識系統，認知系統或計算智慧。部分原因是他們認為他們的領域與 AI 存在根本的不同，不過新名字也有利於獲取經費。至少在商業領域，導致 AI 之冬的那些未能兌現的承諾仍然困擾著 AI 研究，正如 New York Times 在 2005 年的一篇報道所說：“計算機科學家和軟體工程師們避免使用人工智慧一詞，因為怕被認為是在說夢話。”

7.5 HAL 9000 在哪裡？1968 年亞瑟・克拉克和史丹利・庫柏力克創作的《“2001 太空漫遊”》中設想 2001 年將會出現達到或超過人類智慧的機器。他們創造的這一名為 HAL-9000 的角色是以科學事實為依據的：當時許多頂極 AI 研究者相信到 2001 年這樣的機器會出現。

“那麼問題是，為什麼在 2001 年我們並未擁有 HAL 呢？” 馬文・閔斯基問道。 Minsky 認為，問題的答案是絕大多數研究者醉心於鑽研神經網路和遺傳演算法之類商業應用，而忽略了常識推理等核心問題。另一方面，約翰・麥卡錫則歸咎於資格問題。雷蒙德・庫茨魏爾相信問題在於計算機效能，根據摩爾定律，他預測具有人類智慧水平的機器將在 2029 年出現。傑夫・霍金認為神經網路研究忽略了人類大腦皮質的關鍵特性，而簡單的模型只能用於解決簡單的問題。還有許多別的解釋，每一個都對應著一個正在進行的研究計劃。

深度學習，大資料和通用人工智慧：2011 至今

進入 21 世紀，得益於大資料和計算機技術的快速發展，許多先進的機器學習技術成功應用於經濟社會中的許多問題。麥肯錫全球研究院在一份題為《大資料：創新、競爭和生產力的下一個前沿領域》的報告中估計，到 2009 年，美國經濟所有行業中具有 1000 名以上員工的公司都至少平均擁有一個 200 兆兆位元組的儲存資料。

到 2016 年，AI 相關產品、硬體、軟體等的市場規模已經超過 80 億美元，紐約時報評價道 AI 已經到達了一個熱潮。大資料應用也開始逐漸滲透到其他領域，例如生態學模型訓練、經濟領域中的各種應用、醫學研究中的疾病預測及新藥研發等。深度學習（特別是深度卷積神經網路和迴圈網路）更是極大地推動了影像和影片處理、文字分析、語音識別等問題的研究程序。

8.1 深度學習

深度學習是機器學習的一個分支，它透過一個有著很多層處理單元的深層網路對資料中的高階抽象進行建模。根據全域性逼近原理（Universal approximation theorem），對於神經網路而言，如果要擬合任意連續函式，深度性並不是必須的，即使一個單層的網路，只要擁有足夠多的非線性啟用單元，也可以達到擬合目的。但是，目前深度神經網路得到了更多的關注，這主要是源於其結構層次性，能夠快速建模更加複雜的情況，同時避免淺層網路可能遭遇的諸多缺點。

然而，深度學習也有自身的缺點。以迴圈神經網路為例，一個最常見的問題是梯度消失問題（沿著時間序列反向傳播過程中，梯度逐漸減小到 0 附近，造成學習停滯）。為了解決這些問題，很多針對性的模型被提出來，例如 LSTM（長短期記憶網路，早在 1997 年就已經提出，最近隨著 RNN 的大火，又重新進入大眾視野）、GRU（門控迴圈神經單元）等等。

現在，最先進的神經網路結構在某些領域已經能夠達到甚至超過人類平均準確率，例如在計算機視覺領域，特別是一些具體的任務上，比如 MNIST 資料集（一個手寫數字識別資料集）、交通訊號燈識別等。再如遊戲領域，Google 的 deepmind 團隊研發的 AlphaGo，在問題搜尋複雜度極高的圍棋上，已經打遍天下無敵手。

8.2 大資料

大資料是指在一定時間內無法被傳統軟體工具捕獲、管理和處理的資料集合，需要新的處理模式才能具有更強的決策力、洞察發現力和流程最佳化能力來適應結構化資料的高增長率和多樣化的資訊資產。在 Victor Meyer Schonberg 和 Kenneth Cooke 撰寫的《大資料時代》中，大資料意味著所有資料都用於分析，而不是隨機分析（抽樣調查）。大資料的 5V 特性（由 IBM 提出）：Volume（數量）、Velocity（高速）、Variety（多樣）、Value（低價值密度）、Veracity（真實）。大資料技術的戰略意義不在於掌握龐大的資料資訊，而在於專門研究這些有意義的資料。換言之，如果將大資料比喻為一個行業，那麼這個行業實現盈利的關鍵是增加資料的 “處理能力”，透過 “處理” 實現資料的 “增值”。

8.3 強化學習與大型語言模型

強化學習是機器學習中的一個領域，強調如何基於環境而行動，以取得最大化的預期利益。強化學習是除了監督學習和非監督學習之外的第三種基本的機器學習方法。2022 年，人工智慧聊天機器人程式 ChatGPT 基於 GPT-3.5 架構的大型語言模型並透過強化學習進行訓練，以文字方式互動，可透過人類自然對話方式進行互動，還可用於相對複雜的語言工作，包括自動文字生成、自動問答、自動摘要等在內的多種任務。在 2023 年 3 月，GPT-4 正式推出，進一步加強大型語言模型的推理能力。2023 年 8 月，中國百度公司向公眾開放使用文心一言，讓中國內地民眾都可以使用內地版的大型語言模型。2025 年 1 月，深度求索推出著名的大型語言模型的開源模型，並使用新的演算法減低訓練成本。