人工智慧哲學是心智哲學和計算機科學的哲學的一個分支，探討人工智慧以及對知識、智力、倫理、意識、認識論和自由意志的理解。此外，這項技術涉及創造人造動物或人造人（或至少是人造生物；參見人工生命），因此哲學家對這門學科相當感興趣。這些因素促成了人工智慧哲學的出現。 人工智慧哲學試圖回答下列問題將人工智慧哲學定義為由前兩個問題和人工智慧倫理組成。 寫道：在目前的文獻中，哲學有兩個主要作用：一是確定這樣的機器的意識的存在性，二是預測這樣的機器的存在性。 最後一個問題與前兩個問題有關。： 機械可以有智慧的運作嗎？可以解決人透過思考處理的所有問題嗎？ 人類智慧和人工智慧是一樣的嗎？人腦本質上是電腦嗎？ 機械可以如同人類一般擁有自己的精神、心理狀態和意識嗎？能感知事物嗎？ 這三個問題分別反映了人工智慧開發者、語言學家、認知科學家和哲學家的不同興趣。透過討論 智慧、意識 的定義，和 機械 究竟是什麼，來尋找這些問題的科學答案。 人工智慧哲學的重要主張包括： 圖靈的禮貌公約：如果一個機器的行為可以如人類一般，那麼它就和人類擁有同樣的智慧。這是圖靈測試基本要點的轉述。 達特茅斯提議：如果可以精確的描述學習的所有面向，或智慧的任何其它特徵，一個機器就可以被製造來模擬它。。這一提議是達特茅斯會議（1956）的議程之一，被廣泛認為是 人工智慧的誕生。另參 紐厄爾和司馬賀的物理符號系統假設：物理符號系統具有執行一般智慧動作必要的和充分的手段。 and 塞爾強人工智慧假設：只要電腦有適當的程式讓能夠正確的輸入和輸出，就能擁有與人類精神相同意義的精神。 這個版本來自，亦引之。Searle 最初的表述是：適當程式設計的計算機確實構成意識，從這個意義上說，給計算機以正確的程式，就可以說計算機能理解、有其他認識狀態。 對強 AI 的定義類似：哲學上，將機器有可能做出智慧行為（更好的說法是：做出如有智慧一般的行為）的論斷稱為 弱人工智慧 假說，而把做出智慧行為的機器實際上能思考（而不是模擬思考）的論斷稱為 強人工智慧 假說。 霍布斯機制：理性只是計算。 機器能顯示一般智慧嗎？ 有沒有可能創造出一種能用人類智慧解決所有問題的機器？這個問題指示了機器能力的範圍，指引著人工智慧研究的方向。它只涉及機器的行為，而忽略了心理學、認知科學和哲學感興趣的問題，從而引發了這樣一個問題：機器是否真的像人一樣在思考，而非只是看上去在思考？這重要嗎？See where they make the distinction between acting rationally and being rational and define AI as the study of the former 大多數 AI 研究者的基本立場可以用達特茅斯會議（1956）上的這句話概括： 學習的所有方面，及智慧的所有特徵，原則上都可以得到精確的描述，且可以製造一臺機器來模擬。 反對這一基本前提的論點要說明，受限於計算機的實際能力，或者由於人類思維的某種智慧行為必須的特殊品質，使得機器（或目前的人工智慧研究方法）不可能複製人類智慧，於是也不可能建立一個有效的人工智慧系統。支援這一基本前提的論證要說明，這種系統是可能存在的。 當然，也可以迴避上述兩論點之間的聯絡。例如，圖靈的兒童機假設基本上就實現了所需的智慧特徵，卻不需要精確的設計具體運作的方法。關於機器人隱性知識的論述更是完全不需要精確描述。 要回答這個問題，首先要定義什麼是 智慧。 智慧 圖靈測試 阿蘭圖靈，另見，他們稱圖靈的論文 很著名，並寫道：圖靈研究了對智慧機器可能性的各種反對意見，包括論文發表後半個世紀內提出的幾乎所有反對意見。 將智慧的定義簡化為簡單的對話問題：若一臺機器能用普通人會說的話回答向它提出的任何問題，就可以稱這臺機器有智慧。這個設計的現代版本是一個線上聊天室，兩個參與者是人類與程式。如果沒有人能分辨出兩個參與者中誰是人類，那麼這個程式就通過了測試。圖靈指出，從沒有人（哲學家除外）提出過 人會思考嗎 這個問題：與其在這一點上爭論不休，不如約定俗成地認為每個人都會思考。 under The Argument from Consciousness 圖靈測試將這一習慣延伸到了機器上： 如果一臺機器的行為和人類一樣智慧，那麼它就和人類一樣智慧。 對圖靈測試的一種批評是，它只能測量機器行為的 人性化 程度，而非行為的 智慧 程度：人類行為和智慧行為並不完全相同，因此該測試無法衡量智慧。Stuart J Russell 和彼得諾維格寫道：航空工程學的教科書並沒有將領域目標定義為製造能像鴿子一樣準確飛行的機器，直到能騙過鴿子。 實現目標的智慧 21 世紀的 AI 研究將智慧定義為以目標為導向的行為，將智慧視為機器要解決的一系列問題 能解決的問題越多，解決得越好，程式就越智慧。人工智慧 概念的提出者約翰麥卡錫將智慧定義為 在世界上實現目標的能力的計算部分。 Stuart J Russell 和彼得諾維格利用抽象的智慧體形式化了這一概念。智慧體 是能在環境中感知並行動的事物，效能度量 則描述了智慧體的智慧程度。 智慧體的行為是使基於過去經驗和知識的效能度量預期值最大化。Russell 和諾維格更傾向於用 理性主體（rational）而非 智慧（主）體（intelligence）。 類似這樣的定義試圖抓住智慧的本質，優點是不會囊括人類的非智力特徵，如打字錯誤；缺點是無法區分事物 會不會思考 ：根據這個定義，恆溫容器也具有初級智慧。認為恆溫容器是智慧體的最簡單形式，即所謂 反射智慧體。關於恆溫容器在哲學中作用的深入論述，請參 4 Is Experience Ubiquitous subsections What is it like to be a thermostat Whither panpsychism and Constraining the doubleaspect principle 關於機器可以展示一般智慧的論點 大腦可以被模擬 Hubert Dreyfus 將這一論點描述為：如果神經系統遵守物理、化學定律（完全有理由認為其完全遵守），則 應該可以用某種物理裝置重現神經系統的行為。（1943）首次提出之，漢斯莫拉維克（1988）對其進行了生動描述。目前，未來學家雷蒙德庫茨魏爾將其與大腦模擬聯絡在一起，他估計到 2029 年，計算機將有足夠的算力進行完整的大腦模擬。 ，另見、。最極端形式（完全代替大腦的情形）由 Clark Glymour 於 1970 年代中期提出，Zenon Pylyshyn、約翰瑟爾於 1980 年對其進行了論述。2005 年，出現了丘腦皮質模型的非即時模擬，模型大小相當於人腦（1011 個神經元），在個由 27 個處理器組成的叢集上模擬 1 秒鐘的大腦動態需要 50 天。 即使是 AI 最嚴厲的批評者（如 Hubert Dreyfus 和約翰瑟爾）也同意，大腦模擬在理論上是可能的。 然而，瑟爾也指出：原則上任何東西都可以被計算機模擬，因此把這定義無限推下去，就會得到：嚴格來說，任何過程都能視作是 計算。我們想知道的是，思維與恆溫容器和肝臟的區別在哪裡。 因此，僅僅模擬活體大腦的運，作就等於承認自己對智慧與思維本質的無知，就像是在不瞭解任何航空航天工程理論時，透過一根羽毛一根羽毛地精確複製一隻鳥來製造飛機一樣。 人類思維是符號加工 1963 年，艾倫紐厄爾和司馬賀提出，符號加工 是人類和機器智慧的本質。他們寫道： 物理符號系統具有一般智慧行動的充分與必要手段。 這種說法非常有力，意味著人類思維是一種符號操縱（符號系統是智慧的必要條件），也意味著機器可以是智慧的（符號系統足以構成智慧）。瑟爾寫道：我喜歡這種直截了當的說法。 哲學家 Hubert Dreyfus 描述了這種立場的另一個版本，他稱之為 心理假設： 心智可以視作按形式規則對位元資訊進行操作的裝置。 紐厄爾、西蒙和 Dreyfus 討論的 符號 是類似於詞語的高階符號，直接與現實物體相對應，如 狗、尾巴 之類。1956 直至 1990 年間出現的大多數人工智慧程式都使用這種符號。基於統計與數學最佳化的現代人工智慧已經脫離了這一層次。 反對符號加工的論點 這些論點表明，人類思維不（僅）是由高層次符號加工組成。這不是說人工智慧是不可能的，只是指出在符號加工之外還需要別的要素。 哥德爾反機械論 1931 年，庫爾特哥德爾證明了哥德爾不完備定理：總可以構造出 哥德爾算式 使給定的一致形式系統（如高階符號作業系統）無法證明之。雖然構造的哥德爾算式是真語句，但在給定系統內卻是無法證明的（哥德爾算式的真假取決於給定系統的一致性；對微妙地不一致系統應用同樣的過程看似可行，但實際上會產出錯誤的 哥德爾算式）。更推測性地說，哥德爾猜想，人類思維最終可以正確判斷任何有根據的數學語句（包括所有哥德爾算式）的真假，因此人類思維不能還原為一種機械。Gödel Kurt 1951 Some basic theorems on the foundations of mathematics and their implications in Solomon Feferman ed 1995 Collected works Kurt Gödel Vol III Oxford University Press 30423 在本講座中，哥德爾利用不完備定理得出了以下結論：a 人的思維不是一致有限機，或 b 存在其無法決定解的存在性的丟番圖方程。哥德爾認為 b 不可信，於是人類思維不等同於一致有限機：人類思維的能力超過任何有限機。他承認這只是一種猜想，因為人們永遠無法推翻 b。不過，他認為這個不相干的結論是 確切的事實。哲學家 John Lucas 1961 起 和羅傑彭羅斯 1989 起 一直倡導這種哲學上的反機械論。 哥德爾反機械論的論證往往依賴於一個看似無關緊要的主張，即所謂人類數學家系統（或人類數學家的某種理想化）一致（沒有錯誤）且完全相信自身的一致性（並能做出從自身一致性出發的推理，包括相信其哥德爾算式）。圖靈機因停機問題不可能做到這一點，因此哥德爾主義者得出結論：人類的推理能力強得無法被圖靈機捕捉，推而廣之，也無法被任何數字機械裝置捕捉。 然而，科學界和數學界的現代共識是，實際的人類推理是不一致的；任何一致的 理想化 人類推理 H 在邏輯上都會被迫地開放式懷疑自身的一致性（否則 H 就可證明不一致）；這不滿足哥德爾不完備定理的條件，也就無法得到 人類具有機器無法複製的數學推理能力。Mark Colyvan An Introduction to the Philosophy of Mathematics Cambridge University Press 2012 From 222 Philosophical significance of Gödels incompleteness results The accepted wisdom with which I concur is that the LucasPenrose arguments fail 關於哥德爾反機械論註定要失敗的共識在《人工智慧》期刊中得到了有力闡述：任何試圖（用哥德爾不完備定理）攻擊計算主義都註定的，都是非法（invalid）、無效的，因為這些結果實際上與計算主義完全一致。LaForte G Hayes P J Ford K M 1998 Why Gödels theorem cannot refute computationalism Artificial Intelligence 104265286 1998 Stuart Russell 和彼得諾維格同意，哥德爾主義論證沒有考慮現實世界中人類推理的本質。它適用於在記憶體和時間無限的情況下理論上可以證明的問題。實際上，真實機器（包括人類）的資源是有限的，很難證明許多定理。要成為一個有智慧的人，並不一定要能證明一切。他們指出，具有有限記憶的真實機器可以用命題邏輯建模，其在形式上是可解的，哥德爾的論證根本不適用於它們。 侯世達在獲得了普利策獎的圖書《集異璧》中指出，這些 哥德爾算式 總是指系統本身，與說謊者悖論使用 這句話是謊話 之類自指語句進行類比。不過當然，說謊者悖論適用於任何有算式的事物，無論是機器還是人類，甚至自身。考慮： John Lucas 無法斷定這句話的真實性。據，這句話最先由 C H Whiteley 提出 這一說法是正確的，但 John Lucas 卻無法斷言。這表明，John Lucas 本人和所有人一樣，都受到他描述的機器的限制，因此他的論證毫無意義。、、在《來自數學的論證》中寫道：雖然已經確定任何特定機器的能力都有侷限性，但只是有人說過，人類智力沒喲這種侷限性，且沒有任何證據。 彭羅斯得出人類推理不可能透過計算實現後，繼續推測：某種涉及量子力學狀態坍縮的不可計算過程，使人類比計算機具有獨特的優勢。現有的量子計算機只能降低圖靈可計算任務的複雜性，仍侷限於圖靈機可處理的任務。根據彭羅斯和盧卡斯的論點，這一事實意味著它們不足以模擬人類思維。。因此，彭羅斯尋求其他一些涉及新物理學的過程，例如量子引力，可能透過波函式的自發量子坍縮，在普朗克質量的尺度上表現出新的物理學。他認為，這些過程可能發生在神經元內部，也可能跨越多個神經元。然而，其他科學家指出，大腦中不存在利用任何量子計算的可信有機機制；此外，量子退相干的時間尺度太狹窄，無法影響神經元的啟用過程。 Dreyfus：隱藏技能的首要性 Hubert Dreyfus 認為，人類智慧主要依賴於快速的直覺判斷，而不是逐步的符號操作，並認為這些技能永遠無法精確表達為形式化的規則。 See also and Dreyfus 的論點早在圖靈的《計算機器與智慧》（1950）論文中就有所預見，他將其歸類為 行為非形式性觀點。對此，圖靈認為，我們並不知道支配複雜行為的規則（也許存在）。他寫道：我們不能輕易說服自己不存在完整的行為法則 我們所知，發現這種法則的唯一途徑是科學觀察。我們當然知道，在任何情況下都不能說已經找遍了，沒有這樣的法則。 under 8 The Argument from the Informality of Behavior 羅素和諾維格指出，自 Dreyfus 發表評論以來，人們在發現無意識推理的 規則 方面取得了進展。機器人學研究中的 情境運動（situated movement）試圖捕捉我們在感知和注意力方面的無意識技能。See and 神經網路、進化演算法之類的計算智慧正規化主要面向模擬無意識。人工智慧的統計方法可以做出接近人類直覺猜測的預測。對常識性知識的研究側重於再現知識的 背景。事實上，人工智慧研究總體上已經從高層次符號操作轉向捕捉直覺推理的新模型。 認知科學和心理學最終同意 Dreyfu 對人類專長的描述。丹尼爾卡尼曼等人也提出了類似理論，確定了人類用來解決問題的兩個 系統，可稱之為 直覺系統（快速直覺判斷）和 逐步系統（較慢逐步思考）。 雖然 Dreyfus 的觀點在許多方面得到了重信任，但認知科學和人工智慧領域的工作針對具體問題展開，並沒有受到 Dreyfus 的直接影響。歷史學家和人工智慧研究者 Daniel Crevier 寫道：時間證明了 Dreyfus 某些觀點的準確性與敏銳性，如果他不那麼咄咄逼人，那些建議可能會更早得到應有的重視。 機器能有思想、意識與心理狀態嗎？ 這是一個哲學問題，與他心問題和困難問題有關。這個問題圍繞著約翰瑟爾定義為 強人工智慧 的立場展開： 物理符號系統可以有意識和心理狀態。 瑟爾將這一立場與所謂 弱人工智慧 區分開來： 物理符號系統可以智慧地行動。 瑟爾引入這些術語是為了區分強弱 AI，這樣就能專注於他關注的問題。他認為，即使假定存在與人類思維一模一樣的行為的計算機程式，也仍有棘手的哲學問題需要回答 瑟爾的這兩個立場都不是人工智慧研究的重點，因為它們並沒有直接回答 機器能否顯示出一般智慧 的問題（除非也能證明意識是智慧的必要條件）。圖靈寫道：我不想給人留下這樣的印象：我認為意識並不神秘但 我並不認為在我們能回答 機器能否思考 這個問題之前，這些謎團就一定需要解開。 under 4 The Argument from Consciousness See also where they identify Searles argument with Turings Argument from ConsciousnessRussell 和諾維格對此表示贊同：大多數人工智慧研究人員認為弱 AI 假說是理所應當的，卻不關心強 AI 假說。 有一些研究者認為，意識是智慧的基本要素，如 Igor Aleksander、Stan Franklin、Ron Sun、Pentti Haikonen 等人，不過他們對 意識 的定義與 智慧 非常接近（見人工意識）。 在回答這個問題之前，必須明確 心智（mind）心理狀態（mental state）意識（consciousness）的含義。 意識、心智與心理狀態的含義 不同群體對 心智（mind）和 意識（consciousness）這兩個詞有不同用法。例如，一些新紀元運動思想家用 意識 描述與亨利柏格森所謂 生命衝力 之類的事物：一種無形的、充滿活力的流體，滲透到生命中，尤其是心智中。科幻作品則用這個詞描述人類的某些本質屬性：具有 意識 的機器或外星人會被描繪為人類形態的角色，擁有智慧、慾望、意志、洞察力、自豪感等等。（科幻作家也用 感知能力（sentience）智慧（sapience）自覺（selfawareness）乃至 鬼，如《攻殼機動隊》，以描述這種本質人類屬性）。對其他人來說，心智意識 之類是靈魂的世俗化同義詞。 對哲學家、神經科學家、認知科學家來說，這些詞的使用更精確也更世俗：它們指我們熟悉的 腦海中有個主意 的日常體驗，如感知、夢想、意圖與計劃，以及看到某物、知道某物、理解某物的方式等等。哲學家瑟爾認為 給意識下個常識性定義並不難。人們總是告訴我很難定義意識，但我認為，如果你只是在找籌備階段的那種常識性定義，而非是總結階段的那種科學定義，那給意識下個常識性定義並不難。 The Philosophers Zone The question of consciousness Also see 意識的神秘和迷人之處不在於它是什麼，而在於形成過程：一團脂肪組織和小小的電流是如何產生這種感知、意義與思維體驗的？ 哲學家稱之為 困難問題，是心靈哲學中所謂心物問題的最新版本。預支相關的一個問題是所謂意義或理解問題（哲學家稱之為 意向性）：思想與思考的物件（即物件與情境）之間的聯絡有什麼聯絡？第三個問題是經驗問題（或 現象學）：若兩個人看到同樣的事物，他們的體驗是否相同？還是說，腦海裡的東西（稱作 感質）有沒有可能因人而異？ 神經生物學家相信，隨著我們開始確定意識與神經的相關性，所有問題都將迎刃而解：頭腦中的機械機制與其集體屬性（如心智、經驗與理解）之間的實際關係。一些對人工智慧持最嚴厲批評態度的人都認為，大腦只是一臺機器，意識和智慧都是愛中物理過程的結果。例如，約翰瑟爾寫道：機器能思考嗎？答案顯然是肯定的，我們正是這樣的機器。 這個棘手的哲學問題是：計算機程式在數字機器上執行時，本質上只是 0 與 1 的交換，它能複製神經元創造思維、心理狀態（如理解和感知）以及最終意識體驗的能力嗎？ 關於計算機不可能有心智與心理狀態的論證 瑟爾的中文屋 約翰瑟爾提出了一個思想實驗：假設現有一程式，通過了圖靈測試，並展現了一般的智慧行為。具體來說，假設該程式能用流利的中文交談。把程式寫在 3x5 的卡片上，交給一個不會中文的普通人，把他關在房間裡，讓他按卡片上的指示操作。他將抄寫出漢字，並透過一個插槽進出房間。從外面看，這個中文屋裡似乎有個完全會說中文的聰明人。問題是：房間裡有人（或任何東西）懂中文嗎？也就是說，有沒有任何東西具有理解的心理狀態？有沒有任何東西能有意識地認識到正在用中文討論什麼？這個人顯然沒有我們所指的意識，房子本身也沒有意識，卡片當然也沒有意識。於是，瑟爾的結論是：中文屋或其他任何物理符號系統都不可能有心智。 See also and 瑟爾繼續論證說，實際的心理狀態和意識需要（尚待描述）實際人腦的實際物化屬性。他認為大腦和神經元具有特殊的 因果屬性，從中產生了心智；用他的話說，就是 大腦導致心智。 相關討論：萊布尼茨磨坊、戴維斯的電話交換機、布洛克的中國民族和傻瓜實驗 戈特弗裡德萊布尼茨（1714）很早就提出了與瑟爾基本相同的論點，他所用的思想實驗是將大腦擴大到磨坊大小。 Lawrence Davis（1974）設想用電話線和配備人員的辦公室來複制大腦；內德布洛克（1978）設想讓整個中國的人口都參與這樣的大腦模擬。這個思想實驗被稱為 中國民族 或 中國體育館。內德布洛克後來把中文屋歸結到 傻瓜實驗，程式被再重構為一套 看這個，做那個 的簡單規則，消除了其中程式的所有神秘性。 對中文屋的回應 對中文屋的回應強調了幾個不同的觀點。 系統回答與虛擬心智回答： under 1 The Systems Reply Berkeley Among those who hold to the system position according to Cole are Ned Block Jack Copeland Daniel Dennett Jerry Fodor John Haugeland Ray Kurzweil and Georges Rey Those who have defended the virtual mind reply include Marvin Minsky Alan Perlis David Chalmers Ned Block and J Cole again according to 這個回答認為，包括人、程式、房間和卡片在內的整個系統，是理解了中文的東西。瑟爾稱，房間裡的那個人是唯一可能 有心智 或 有理解 的東西，但其他人則認為在同一個物理空間裡有可能存在兩個思想，就像一臺計算機可以同時 是 兩臺機器一樣：一臺是物理的（如 Mac 機），一臺是 虛擬機器（如文字處理器）。 速度、力量與複雜性回答： ascribes this position to Ned Block Daniel Dennett Tim Maudlin David Chalmers Steven Pinker Patricia Churchland and others 一些評論家指出，房間裡的人可能要上百萬年時間才能回答一個簡單的問題，並且需要天文數字般的 檔案櫃。這讓人對瑟爾直覺的清晰度產生了懷疑。 機器人回答： under 2 The Robot Reply Yale ascribes this position to Margaret Boden Tim Crane Daniel Dennett Jerry Fodor Stevan Harnad Hans Moravec and Georges Rey 有人認為，中文屋要真正理解需要眼和手。Hans Moravec 寫道：如果能把機器人嫁接到推理程式中，就不再需要人來提供這個意義了：它將來自物理世界。 引於 大腦模擬器回答： under 3 The Brain Simulator Reply Berkeley and MIT ascribes this position to Paul and Patricia Churchland and Ray Kurzweil 如果程式模擬的是真正會說中文的人的大腦突觸的神經發射序列呢？房間裡的人將模擬真實的大腦。這是 系統回答 的一種變體，看起來更可信，因為 系統 現在像人腦一樣運作。這似乎表明：除了房間裡的那個人之外，還有別的東西能聽懂中文。 他心回答與表象回答： under 5 The Other Minds Reply makes this reply under 4 The Argument from Consciousness Cole ascribes this position to Daniel Dennett and Hans Moravec 有幾位學者指出，瑟爾的論證只是他心問題的一個適用於機器的版本。既然很難確定人是否 真正 在思考，那麼很難回答關於機器的同樣問題就不值得驚訝。 一個相關問題是（瑟爾理解的）意識 是否存在。瑟爾認為，意識體驗無法透過研究機器、人類或任何其他動物的行為來發現。丹尼爾丹尼特指出，自然選擇只會保留對動物行為有影響的特徵，因此不可能產生（瑟爾理解的）意識。於是，要麼自然選擇沒有產生意識，要麼 強人工智慧 是正確的，意識可以透過適當的圖靈測試檢測出來。 思考是一種計算嗎？ 心智計算理論（計算主義）稱，心智與大腦之間的關係類似於執行中的程式（軟體）與計算機（硬體）之間的關係。這一觀點在哲學上源於托馬斯霍布斯（推理 不過是計算）、戈特弗裡德萊布尼茨（試圖為人類所有想法建立邏輯微積分）、大衛休謨（認為知覺可以簡化為 印象子）甚至伊曼努爾康德（將所有經驗分析為形式規則所控制）。 最新版本與哲學家希拉里懷特哈爾普特南和傑瑞福多有關。 如果人腦是一種計算機，那麼計算機就可以同時具有智慧和意識，從而回答人工智慧的實踐問題和哲學問題。就人工智慧的實踐問題（機器能否展現一般智慧？）而言，某些版本的計算主義聲稱（如霍布斯所寫）： 推理不過是計算。 即智慧源於一種類似於算術的計算形式，這就是上文討論的物理符號系統假說，它意味著人工智慧是可能的。就人工智慧的哲學問題（機器能否擁有心智、心理狀態與意識？）而言，大多數計算主義版本都聲稱（Stevan Harnad 描述）： 心理狀態只是（正確的）計算機程式的例項化。 這就是上文討論的約翰瑟爾的 強人工智慧，也是（Harnad 認為的）中文屋 實驗的真正目標。 其他相關問題 機器可以有情緒嗎？ 若從對行為的影響或在生物體內發揮功能的方法的角度來定義，則 情緒 可視為智慧體用來最大化行為效用的一種機制。漢斯莫拉維克據此相信 一般來說機器人在做好事時相當情緒化。引於恐懼是緊迫感的來源。移情是好的人機互動必備的部分。他說，機器人 會以一種看似無私的方式取悅你，因為它可以從這種積極的強化中獲得快感。你可以把這理解為一種愛。Daniel Crevier 寫道：莫拉維克的觀點是，情緒只是將行為向利於物種生存的方向引導的工具。 機器可以有自我意識嗎？ 如上所述，自我意識 有時被科幻作家用作人類本質屬性的名稱，能使物品成為完全的人類。圖靈剝離了人類的其他屬性，將問題簡化為 機器能否成為自己思想的主體？ 它能思考自己嗎？從這個定義來看，能報告自身內部狀態的程式（如偵錯程式）似乎具備這種 自我意識。 機器能否具有創造力？ 圖靈把這問題簡化為機器能否 出其不意 的問題，並認為這顯然是正確的，任何程式設計師都能證明。 under 6 Lady Lovelaces Objection 他指出，只要有足夠的記憶體，計算機就能以天文數字級的不同方式執行。 under 5 Argument from Various Disabilities 對於一臺能表示想法的計算機，以新方式組合想法一定是可能的，甚至是平凡的（例子如道格拉斯萊納特的自動數學家將各種想法結合起來，發現了新的數學真理）。安德烈亞斯卡普蘭和 Haenlein 認為，機器可以表現出科學創造力，而在藝術創造力方面，則人類很可能佔上風。 2009 年，亞伯大學和劍橋大學的科學家設計了一個名為亞當的機器人，他們認為這是第一個能獨立提出新科學發現的機器。同樣是在 2009 年，康奈爾大學的研究人員開發了 Eureqa 程式，可以根據輸入的資料推斷公式，例如從鐘擺的運動中找出運動定律。 機器是仁慈的還是敵意的？ 這個問題（與人工智慧哲學中的許多問題一樣）可以有兩種表述形式：敵意 可由功能或行為定義，這樣 敵意 就是 危險 的同義詞；也可由意圖的角度來定義：機器能否 故意 造成傷害？後者是 機器有沒有意識狀態（意圖）？ 的另一種形式。 未來學家（如機器智慧研究所）詳細研究了高度智慧、完全自動的機器是否危險的問題。這話題也是諸多科幻作品中極其常見的戲劇性元素，使其大受歡迎。科幻作品考慮了智慧機器對人類構成威脅的許多場景，參見虛構作品中的人工智慧。 其中一個問題是，機器可能會很快獲得所需的自主性和智慧，從而變得非常危險。弗諾文奇認為，計算機的智慧會在短短幾年內突然比人類高出成千上萬倍，他稱之為 技術奇點。他認為，這對人類可能非常危險。The Coming Technological Singularity How to Survive in the PostHuman Era by Vernor Vinge Department of Mathematical Sciences San Diego State University c 1993 by Vernor Vinge 一種名為 奇點主義 的哲學對此進行了討論。 2009 年，學術界和技術專家召開了一次會議，討論機器人和計算機的可能影響，並在假設它們自動決策的可能性帶來的影響。他們討論了計算機和機器人獲得自主能力的可能性和程度，以及它們在多大程度上能用這種能力構成威脅。他們指出，一些機器已經獲得了某種形式的半自主能力，如能自行尋找電源、獨立選擇武器攻擊目標之類；一些電腦病毒能躲避消毒，實現了 蟑螂智慧。他們指出，科幻作品中描述的機器自我意識不太可能實現，但還有其他隱患。Scientists Worry Machines May Outsmart Man By JOHN MARKOFF NY Times 20090726 一些學者對賦予有一定自主能力的軍用機器人提出質疑。Call for debate on killer robots By Jason Palmer Science and technology reporter BBC News 8309 美國海軍資助的一份報告指出，隨著軍用機器人變得越來越複雜，應更多關注其自主決策能力的影響。Science New Navyfunded Report Warns of War Robots Going Terminator by Jason Mick Blog dailytechcom 20090217Navy report warns of robot uprising suggests a strong moral compass by Joseph L Flatley engadgetcom 20090218 人工智慧促進協會主席委託進行了一項研究，以探討這一問題。AAAI Presidential Panel on LongTerm AI Futures 20082009 Study Association for the Advancement of Artificial Intelligence Accessed 72609 他們指出，語言習得裝置等程式可以模擬人類互動。 有人認為有必要建立 友善人工智慧，也就是說人工智慧已經取得的進步應包括在本質上走向友好與人性化。Article at Asimovlawscom July 2004 accessed 72709 機器能否模仿人類的所有特徵？ 圖靈說 人們習慣於 以宣告的形式提供一絲安慰，即機器永遠無法模仿人類的某些特徵 我提供不了任何這樣的安慰，因為我相信無法設定這樣的界限。Can digital computers think Talk broadcast on BBC Third Programme 19510515 httpwwwturingarchiveorgviewerid459title8 圖靈指出，有許多論據的形式是 機器永遠不會做 X，但這些意見往往基於對機器多功能性的天真假設，或是 意識論證的變體。編寫一個表現出一種 X 的程式 不會給人留下什麼印象。 under 5 Arguments from Various Disabilities 除非能證明這些 X 中的某個是一般智慧必須的，否則都與人工智慧的基本前提無關。 機器可以有靈魂嗎？ 最後，那些相信存在靈魂的人可能會說 思維是人類長生的靈魂的一種功能。圖靈稱之為 神學異議，寫道： 在試圖建造這樣的機器時，我們不應不敬地篡奪祂創造靈魂的權力，就像我們在生育孩子時一樣：相反，無論在哪種情況下，我們都是祂意志的工具，為祂創造的靈魂提供居所。 under 1 The Theological Objection although he also writes I am not very impressed with theological arguments whatever they may be used to support 最近，谷歌的 LaMDA 稱自己擁有知覺，且 有靈魂，再次引發了對這一話題的討論。 LaMDA 是人工智慧系統，會收集網際網路上的大量文字並用演算法以最流暢、最自然的方式回答詢問，創造出聊天機器人 一種用於與人類交流的 AI 機器人。 科學家與 LaMDA 的對話記錄顯示，它在這方面表現很出色，能回答有關情感本質的挑戰性話題，生成伊索寓言式的故事，甚至描繪它所謂的恐懼。幾乎所有的哲學家都對 LaMDA 的知能表示懷疑。 MMorioka et al 20230115 Artificial Intelligence Robots and Philosophy pp24 對哲學作用的看法 有學者認為，AI 界對哲學的否定是有害的。《斯坦福哲學百科全書》中，一些哲學家認為，哲學在 AI 中的作用沒有得到充分重視。哲學家戴維多伊奇認為，若不瞭解哲學或其概念，AI 就會缺乏進展。 參見 人工智慧叛變 人工意識 人工智慧 腦 聊天機器人 中文房間 心靈計算理論 功能主義_心靈哲學 多智慧體系統 資訊哲學 心靈哲學 物理符號系統 模擬現實 人工智慧法案 註釋 參考文獻 引文 Adam Alison 1989 Artificial Knowing Gender and the Thinking Machine Routledge CRC Press Benjamin Ruha 2019 Race After Technology Abolitionist Tools for the New Jim Code Wiley Bryson Joanna 2019 The Artificial Intelligence of the Ethics of Artificial Intelligence An Introductory Overview for Law and Regulation 34 Crawford Kate 2021 Atlas of AI Power Politics and the Planetary Costs of Artificial Intelligence Yale University Press Haraway Donna 1985 A Cyborg Manifesto Malabou Catherine 2019 Morphing Intelligence From IQ Measurement to Artificial Brains C Shread Trans Columbia University Press c Rescorla Michael The Computational Theory of Mind inEdward N Zalta ed The Stanford Encyclopedia of Philosophy Fall 2020 Edition Category 科學哲學 Category 科技哲學 Category 精神哲學 Category 人工智慧哲學 Category 未解決的問題