중국어 방

날짜=2011-10-18 인공지능**중국어 방 논증**(Chinese room argument)은 컴퓨터가 프로그램을 실행할 때, 그 프로그램이 컴퓨터로 하여금 아무리 지능적으로 또는 인간과 같이 행동하도록 만들더라도, 컴퓨터는 마음, 이해, 또는 의식을 가질 수 없다고 주장한다. 이 논증은 철학자 존 설이 1980년에 "마음, 두뇌, 그리고 프로그램"이라는 제목으로 작성하여 학술지 《Behavioral and Brain Sciences》에 게재한 논문에서 제시되었다.1980 설 이전에도 고트프리트 빌헬름 라이프니츠(1714년), 아나톨리 드네프로프(1961년), 로런스 데이비스(1974년), 네드 블록(1978년)을 포함한 여러 인물들이 유사한 논증을 제시한 바 있다.p=1 설의 버전은 그 이후 수년간 광범위하게 논의되었다. 설의 논증의 핵심은 중국어 방으로 알려진 사고 실험이다.2016 이 사고 실험에서 설은 중국어를 이해하지 못하는 사람이 중국어 기호를 조작하는 상세한 지침이 담긴 책과 함께 방 안에 고립되어 있다고 상상한다. 중국어 텍스트가 방 안으로 전달되면, 그 사람은 책의 지침을 따라 중국어 기호를 생성하는데, 방 밖의 유창한 중국어 화자들에게는 적절한 응답으로 보인다. 설에 따르면, 그 사람은 의미론적 이해 없이 단지 구문론적 규칙을 따르고 있을 뿐이며, 인간도 방 전체도 중국어를 이해하지 못한다. 그는 컴퓨터가 프로그램을 실행할 때, 컴퓨터 역시 마찬가지로 실제 이해나 사고 없이 단지 구문론적 규칙을 적용하고 있을 뿐이라고 주장한다.p=11 이 논증은 기능주의와 계산주의라는 철학적 입장에 반대하는 것으로,p=44 이들은 마음이 형식 기호에 대해 작동하는 정보 처리 시스템으로 간주될 수 있으며, 주어진 정신 상태의 시뮬레이션이 그것의 존재를 위해 충분하다고 주장한다. 구체적으로, 이 논증은 설이 강한 인공지능 가설이라고 부르는 입장을 반박하기 위한 것이다: "적절하게 프로그램된 컴퓨터가 올바른 입력과 출력을 가진다면, 그로써 인간이 마음을 가지는 것과 정확히 같은 의미에서 마음을 가지게 될 것이다." 이 논증의 지지자들이 원래 인공지능 연구자들의 주장에 대한 반응으로 이 논증을 제시했지만, 이 논증은 기계가 보여줄 수 있는 지능적 행동의 양에 한계가 있음을 보여주지 않기 때문에 주류 인공지능 연구의 목표에 반대하는 논증은 아니다.p=986 이 논증은 프로그램을 실행하는 디지털 컴퓨터에만 적용되며 일반적인 기계에는 적용되지 않는다.p=11 광범위하게 논의되었지만, 이 논증은 상당한 비판의 대상이 되어 왔으며 마음 철학자들과 인공지능 연구자들 사이에서 여전히 논쟁의 여지가 있다.loc=section "Biological naturalism and the Chinese Room"website=Stanford Encyclopedia of Philosophy
# 설의 사고 실험
인공지능 연구가 컴퓨터를 중국어를 이해하는 것처럼 행동하도록 프로그래밍하는 데 성공했다고 가정해 보자. 기계는 중국어 문자를 입력으로 받아들이고, 프로그램의 각 명령을 단계별로 수행한 다음, 중국어 문자를 출력으로 생성한다. 기계는 이를 너무나 완벽하게 수행하여 아무도 자신이 기계와 대화하고 있는지 숨어 있는 중국어 화자와 대화하고 있는지 구별할 수 없다.p=11 문제가 되는 질문들은 다음과 같다: 기계가 실제로 대화를 이해하는가, 아니면 단지 대화를 이해하는 능력을 시뮬레이션하고 있는가? 기계가 사람들이 가지는 것과 정확히 같은 의미에서 마음을 가지는가, 아니면 단지 마음을 가진 것처럼 행동하고 있는가?p=11 이제 설이 프로그램의 영어 버전과 함께 충분한 연필, 종이, 지우개, 그리고 서류 캐비닛이 있는 방 안에 있다고 가정해 보자. 중국어 문자가 문 아래로 들어오면, 설은 프로그램을 단계별로 따르고, 프로그램은 결국 그에게 다른 중국어 문자를 문 아래로 다시 내보내도록 지시한다. 컴퓨터가 이런 방식으로 튜링 테스트를 통과했다면, 설 역시 단순히 프로그램을 손으로 실행함으로써 튜링 테스트를 통과할 것이다.p=11 설은 이 실험에서 컴퓨터의 역할과 자신의 역할 사이에 본질적인 차이가 없다고 주장한다. 각각은 단순히 프로그램을 단계별로 따르면서, 이해하는 것처럼 보이게 만드는 행동을 생성한다. 그러나 설은 대화를 이해할 수 없을 것이다. 따라서 그는 컴퓨터 역시 대화를 이해할 수 없을 것이라고 주장한다.p=11 설은 "이해"(또는 "지향성") 없이는 기계가 하고 있는 것을 "사고"라고 기술할 수 없으며, 기계가 사고하지 않기 때문에 그 단어의 일반적인 의미에서 "마음"을 가지지 않는다고 주장한다. 따라서 그는 강한 인공지능 가설이 거짓이라고 결론짓는다: 마음을 시뮬레이션하는 프로그램을 실행하는 컴퓨터는 인간이 마음을 가지는 것과 같은 의미에서 마음을 가지지 않을 것이다.p=11
# 역사
고트프리트 라이프니츠는 1714년에 기계론(인간을 구성하는 모든 것이 원칙적으로 기계적 용어로 설명될 수 있다는 생각. 다시 말해, 마음을 포함한 사람이 단지 매우 복잡한 기계에 불과하다는 생각)에 반대하는 유사한 논증을 제시했다. 라이프니츠는 뇌가 방앗간 크기가 될 때까지 확장되는 사고 실험을 사용했다.loc=2.1; loc=section 17. 라이프니츠는 "지각"이 가능한 "마음"이 오직 기계적 과정만을 사용하여 구성될 수 있다고 상상하기 어렵다고 여겼다. 피터 윈치는 그의 저서 《사회과학의 개념과 철학과의 관계》(1958년)에서 같은 요점을 제시했는데, 그곳에서 그는 "중국어를 이해하는 사람은 중국어에서 다양한 단어들의 출현에 대한 통계적 확률을 확고하게 파악하고 있는 사람이 아니다"(108쪽)라는 것을 보여주는 논증을 제공한다. 소련의 인공두뇌학자 아나톨리 드네프로프는 1961년에 단편소설 "게임"의 형태로 본질적으로 동일한 논증을 제시했다. 그 소설에서 경기장의 사람들이 스위치와 메모리 셀로 작동하여 그들 중 누구도 모르는 언어인 포르투갈어 문장을 번역하는 프로그램을 구현한다. 이 게임은 "자루빈 교수"에 의해 "수학적 기계가 생각할 수 있는가?"라는 질문에 답하기 위해 조직되었다. 자루빈을 통해 말하면서, 드네프로프는 "기계가 생각할 수 있다는 것을 증명하는 유일한 방법은 자신을 기계로 만들고 자신의 사고 과정을 검토하는 것"이라고 쓰고, 설이 그러하듯이 "우리는 기계 사고의 가장 완벽한 시뮬레이션조차도 사고 과정 그 자체가 아니라는 것을 증명했다"고 결론짓는다. 1974년에 로런스 H. 데이비스는 전화선과 사람들이 배치된 사무실을 사용하여 뇌를 복제하는 것을 상상했고, 1978년에 네드 블록은 중국 전체 인구가 그러한 뇌 시뮬레이션에 참여하는 것을 구상했다. 이 사고 실험은 중국 뇌, 또한 "중국 국가" 또는 "중국 체육관"이라고 불린다.loc=2.3 2005년 12월의 존 설 설의 버전은 《Behavioral and Brain Sciences》에 게재된 그의 1980년 논문 "마음, 두뇌, 그리고 프로그램"에 등장했다.1980 그것은 결국 그 학술지의 "가장 영향력 있는 표적 논문"이 되었고,p=1 이후 수십 년 동안 엄청난 수의 논평과 응답을 낳았으며, 설은 여러 논문, 대중 기사, 그리고 저서에서 이 논증을 계속 방어하고 정제해 왔다. 데이비드 콜은 "중국어 방 논증이 아마도 지난 25년간 인지과학에 등장한 가장 광범위하게 논의된 철학적 논증일 것"이라고 쓴다.p=2; 2002 논의의 대부분은 그것을 반박하려는 시도들로 구성된다. 《Behavioral and Brain Sciences》의 편집자 스티븐 하르나드는 "압도적 다수"가 "여전히 중국어 방 논증이 완전히 틀렸다고 생각한다"고 언급한다.p=2 그것을 둘러싸고 형성된 문헌의 엄청난 양은 팻 헤이스로 하여금 인지과학 분야가 "설의 중국어 방 논증이 거짓임을 보여주는 진행 중인 연구 프로그램"으로 재정의되어야 한다고 논평하도록 영감을 주었다.p=1; p=2 하르나드에 따르면, 설의 논증은 "인지과학에서 일종의 고전"이 되었다.p=2 바롤 악만도 동의하며, 원래 논문을 "철학적 명료성과 순수성의 모범"이라고 묘사했다.1998
# 철학

## 강한 인공 지능
"설"은 자신이 "강력한 AI"라고 부르는 철학적 입장을 밝혔다. p=981 정의는 마음을 시뮬레이션하는 것과 실제로 마음을 갖는 것의 구별에 따라 달라진다. Searle은 "강력한 AI에 따르면 올바른 시뮬레이션은 실제로 마음이다. 약한 AI에 따르면 올바른 시뮬레이션은 마음의 모델이다."p=1라고 썼다. 이 주장은 초기 AI 연구자와 분석가의 일부 진술에 암묵적으로 포함되어 있다. 예를 들어, 1955년 AI 창시자 허버트 사이먼은 "이제 세상에는 생각하고, 배우고, 창조하는 기계가 있다."Quoted in p=138.라고 선언했다. Simon은 앨런 뉴얼과 클리프 쇼(Cliff Shaw)와 함께 형식적 추론을 할 수 있는 최초의 프로그램(논리 이론가)을 완성한 후, "물질로 구성된 시스템이 어떻게 마음의 속성을 가질 수 있는지 설명하면서, 존경할 만한 정신-신체 문제를 해결했다"고 주장했다.Quoted in p=46 존 호겔랜드(John Haugeland)는 "AI는 진짜 물건, 즉 완전하고 문자적인 의미에서 마음이 있는 기계만을 원한다. 이것은 공상 과학이 아니라 이론적 개념에 기반한 실제 과학이며, 심오하면서도 대담하다. 즉, 우리는 근본적으로 컴퓨터이다."ps= (Italics his) Searle은 또한 강력한 AI 지지자들에게 다음과 같은 주장을 돌린다. * AI 시스템은 마음을 설명하는 데 사용될 수 있다.p=1 * 뇌 연구는 마음 연구와 관련이 없다.2001 그리고 * 튜링 검사는 정신 상태의 존재를 확립하는 데 적합하다.p=6
## 계산주의 또는 기능주의로서의 강력한 AI

## 강력한 AI 대 생물학적 자연주의

## 의식

## 응용 윤리

# 컴퓨터 과학

## 강력한 AI 대 AI 연구

## 튜링 테스트

## 기호 처리

## 중국어 방과 튜링 완전성

# 정형화된 논증
1984년 설은 좀 더 정식적인 버전으로 ‘중국어 방’을 통해 하고자 하는 이야기를 정리해서 발표했다. 그의 전제는 네 명제로 이뤄져 있다. * 전제 1. 뇌는 마음을 발생시킨다. * 전제 2. 통사법은 의미론에 필수적인 것이 아니다. * 전제 3. 컴퓨터 프로그램은 전적으로 그것의 형식적이고 통사론적 구조에 의해 정의된다. * 전제 4. 마음은 의미론적 내용을 가지고 있다. 두 번째 전제는 중국어 방을 통한 논변으로 뒷받침되었고, 때문에 존 설은 오직 형식적인 통사론적 규칙에 따르는 방을 유지시켰으며 또한 이 방 안의 존재는 중국어의 의미를 이해하지 못한다. 존 설은 곧바로 세 가지의 결론을 도출했다. * 결론 1. 어떤 컴퓨터 프로그램도 그 스스로에 의해 마음의 시스템과 같은 효과를 주는 데 충분하지 못하다. 프로그램은 마음이 아니다. * 결론 2. 마음을 발생시키는 뇌의 기능이 작동하는 방식은 다만 컴퓨터 프로그램을 작동시키는 능력에 의한 것만은 아니다. * 결론 3. 마음을 가진(혹은 마음을 발생시키는)모든 것들은 최소한 뇌와 동등한 수준의 인과력(causal powers)을 가지고 있어야만 한다. 설은 이 논증을 “과도하게 조야한(excessively crude)” 것으로서 기술한다. 이 논증이 실제로 타당한지에 대한 고려할 만한 논박이 존재한다. 그 논의들은 전제를 분석하는 다양한 방법으로 집중되어있다. 어떤 이는 전제 3이 컴퓨터 프로그램은 통사론적 내용을 포함할 수 있지만 의미론적 내용은 포함할 수 없는 것으로 읽을 수 있을 것이고, 또 전제 2, 3, 4는 타당하게 결론 1을 도출해 낸 것으로 결론낼 수도 있다. 이것은 논쟁을 컴퓨터 프로그램의 의미론적 내용의 기원으로 이끌고 간다.
# 반론
이와 같은 논리를 뇌 안의 뉴런과 언어이해력에 대해 적용해 보면, 인간조차 언어를 정말 이해하고 있는지가 불분명해지고 만다. 이에 대해 많은 학자들은 안의 사람은 중국어를 이해하지 못하지만 안의 사람과 중국어 방을 더한 총체는 중국어를 이해한다고 주장한다. 그리고 많은 컴퓨터 프로그래머들은 실제로 인공지능을 구현하는 방법이 중국인 방 이론과 차이가 없다고 주장하고 있다.날짜=2017-10-23 한 예로 애플사의 시리는 본질적으로는 미리 저장된 데이터베이스를 통해서 입력된 문장을 분석하고 적당한 문장을 출력하는 '중국인 방 이론'에 의해 프로그램되어 있지만, 많은 사람들은 시리가 아주 훌륭한 인공지능의 예시라고 생각한다.
## 시스템과 가상 마인드 반론: 마음 찾기

### 시스템 반론

### 가상 마인드 반론

## 로봇과 의미론 반론: 의미 찾기

### 로봇 반론

### 파생된 의미

### 맥락주의 반론

## 뇌 시뮬레이션과 연결주의 반론: 방 재설계

### 뇌 시뮬레이터 반론

#### 중국 뇌

#### 뇌 교체 시나리오

### 연결주의 답변

### 조합 반론

### 많은 저택 / 내년까지 기다리세요 반론

## 속도와 복잡성: 직관에 호소

### 속도와 복잡성 반론

## 다른 마음과 좀비: 무의미함

### 다른 마음 반론

### "설"의 "의식"은 감지할 수 없음을 고려한 반론

### 제거적 유물론적 반론

## 다른 반론

### 탄소 쇼비니즘