중국어 방

중국어 방 논증(中國語房論證, )은 프로그램을 실행하는 컴퓨터가, 그 프로그램이 컴퓨터를 얼마나 지능적으로 또는 인간처럼 행동하게 만들든 상관없이, 마음, 이해, 또는 의식을 가질 수 없다는 주장이다. 이 논증은 철학자 존 설이 1980년 《Behavioral and Brain Sciences》 학술지에 발표한 "마음, 뇌, 그리고 프로그램"(Minds, Brains, and Programs)이라는 제목의 논문에서 제시되었다. 이와 유사한 논증이 고트프리트 빌헬름 라이프니츠 (1714), 네드 블록 (1978) 등에 의해 제기된 바 있다. 존 설의 버전은 발표 이후 수년 동안 널리 논의되어 왔다. 존 설 논증의 핵심은 중국어 방이라 불리는 사고 실험이다.

이 논증은 마음을 형식적 기호에 따라 작동하는 정보 처리 시스템으로 볼 수 있으며, 특정 정신 상태의 시뮬레이션이 그 상태의 존재를 입증하기에 충분하다고 주장하는 기능주의와 계산주의의 철학적 입장을 겨냥한다. 구체적으로, 이 논증은 존 설이 강인공지능 가설이라고 부르는 입장을 반박하기 위해 의도되었다. 그 가설은 "적절한 입력과 출력을 갖추고 적절하게 프로그래밍된 컴퓨터는 인간이 마음을 가진 것과 똑같은 의미에서 마음을 갖게 될 것이다"라는 내용이다.

비록 제안자들은 원래 인공지능(AI) 연구자들의 주장에 대한 반응으로 이 논증을 제시했지만, 이것이 기계가 보여줄 수 있는 지능적 행동 양의 한계를 보여주는 것은 아니기에 주류 인공지능 연구의 목표 자체에 반대하는 논증은 아니다. 이 논증은 프로그램을 실행하는 디지털 컴퓨터에만 적용되며 일반적인 기계에는 적용되지 않는다. 널리 논의되고 있음에도 불구하고, 이 논증은 상당한 비판을 받아왔으며 심리철학자들과 AI 연구자들 사이에서 여전히 논쟁의 여지가 남아 있다.

 중국어 방 사고 실험 
인공지능 연구가 중국어를 이해하는 것처럼 행동하도록 컴퓨터를 프로그래밍하는 데 성공했다고 가정해 보자. 이 기계는 한자를 입력으로 받아들이고, 프로그램의 각 지침을 단계별로 수행한 다음, 한자를 출력으로 내보낸다. 기계는 이 작업을 너무나 완벽하게 수행하여, 누구도 자신이 숨겨진 중국어 화자가 아닌 기계와 대화하고 있다는 사실을 알 수 없다.

여기서 쟁점이 되는 질문은 이것이다. 기계가 실제로 대화를 '이해'하는 것인가, 아니면 단지 대화를 이해하는 능력을 '시뮬레이션'하고 있는 것인가? 기계는 사람들이 가진 것과 똑같은 의미의 마음을 가지고 있는가, 아니면 단지 마음이 있는 '것처럼' 행동하고 있는 것인가?

이제 존 설이 프로그램의 영어 버전과 충분한 연필, 종이, 지우개, 서류 보관함을 갖춘 방 안에 있다고 가정해 보자. 문 아래로 한자가 적힌 종이가 들어오면, 그는 프로그램의 지시를 단계별로 따르고, 결국 프로그램은 그에게 다른 한자를 문 밖으로 내보내라고 지시한다. 만약 컴퓨터가 이런 방식으로 튜링 검사를 통과했다면, 존 설 또한 단순히 프로그램을 손으로 실행함으로써 검사를 통과하게 될 것이다.

존 설은 실험에서 컴퓨터의 역할과 자신의 역할 사이에 본질적인 차이가 없다고 본다. 각자는 단순히 프로그램을 단계별로 따르며, 이해하는 것처럼 보이게 만드는 행동을 생성할 뿐이다. 그러나 존 설 자신은 대화 내용을 이해하지 못할 것이다. 따라서 그는 컴퓨터 역시 대화 내용을 이해할 수 없다는 결론이 나온다고 주장한다.

존 설은 "이해"(또는 "의도성") 없이는 기계가 하는 일을 "생각"하는 것으로 설명할 수 없으며, 생각하지 않기 때문에 일반적인 의미의 "마음"을 가지고 있지 않다고 주장한다. 따라서 그는 강인공지능 가설이 거짓이라고 결론짓는다. 즉, 마음을 시뮬레이션하는 프로그램을 실행하는 컴퓨터는 인간이 마음을 가진 것과 같은 의미에서 마음을 가질 수 없다는 것이다.

 역사 
고트프리트 라이프니츠는 1713년에 기계론(인간을 구성하는 모든 것이 원칙적으로 기계적 용어로 설명될 수 있다는 아이디어. 즉, 마음을 포함한 인간은 단지 매우 복잡한 기계라는 생각)에 반대하여 유사한 논증을 펼쳤다. 라이프니츠는 뇌를 물레방앗간 크기만큼 확장하는 사고 실험을 사용했다.; . 라이프니츠는 "지각" 능력이 있는 "마음"이 오직 기계적인 과정만으로 구성될 수 있다는 사실을 상상하기 어렵다고 생각했다.

피터 윈치는 그의 저서 《사회 과학의 이념과 철학과의 관계》(The Idea of a Social Science and its Relation to Philosophy, 1958)에서 동일한 점을 지적했는데, 그는 "중국어를 이해하는 사람은 중국어의 다양한 단어 발생에 대한 통계적 확률을 확고하게 파악하고 있는 사람이 아니다"(p. 108)라는 것을 보여주는 논증을 제공한다.

소련의 사이버네틱스 연구자 아나톨리 드네프로프는 1961년 단편 소설 "게임"에서 본질적으로 동일한 논증을 제시했다. 이 소설에서 경기장에 모인 사람들은 스위치와 메모리 셀의 역할을 하여, 그들 중 누구도 알지 못하는 언어인 포르투갈어 문장을 번역하는 프로그램을 실행한다. 이 게임은 "수학적 기계가 생각할 수 있는가?"라는 질문에 답하기 위해 "자루빈 교수"에 의해 조직되었다. 자루빈의 입을 통해 드네프로프는 "기계가 생각할 수 있다는 것을 증명하는 유일한 방법은 스스로 기계가 되어 자신의 사고 과정을 조사하는 것"이라고 썼으며, 존 설과 마찬가지로 "우리는 기계적 사고의 가장 완벽한 시뮬레이션조차 사고 과정 그 자체가 아님을 증명했다"고 결론지었다.

1974년 로런스 H. 데이비스는 전화선과 사람들이 근무하는 사무실을 이용해 뇌를 복제하는 것을 상상했고, 1978년 네드 블록은 중국의 전 인구가 그러한 뇌 시뮬레이션에 참여하는 것을 구상했다. 이 사고 실험은 중국 뇌(China brain), 또는 "중국 국가"(Chinese Nation)나 "중국 체육관"(Chinese Gym)으로 불린다.

섬네일|2005년 12월의 존 설
존 설의 버전은 1980년 《Behavioral and Brain Sciences》에 발표된 그의 논문 "마음, 뇌, 그리고 프로그램"에 등장했다. 이는 결국 해당 학술지의 "가장 영향력 있는 표적 논문"이 되었으며, 이후 수십 년 동안 엄청난 수의 논평과 응답을 생성했고, 존 설은 여러 논문, 대중 기사 및 서적에서 이 논증을 계속 방어하고 다듬어 왔다. 데이비드 콜은 "중국어 방 논증은 아마도 지난 25년 동안 나타난 인지 과학 분야에서 가장 널리 논의된 철학적 논증일 것이다"라고 썼다.; 

대부분의 논의는 이를 반박하려는 시도로 구성된다. 《Behavioral and Brain Sciences》의 편집자 스테판 하르나드는 "압도적인 다수는 여전히 중국어 방 논증이 완전히 틀렸다고 생각한다"고 언급했다. 이와 관련하여 쌓인 방대한 문헌에 대해 팻 헤이즈는 인지 과학 분야가 "존 설의 중국어 방 논증이 틀렸음을 보여주는 지속적인 연구 프로그램"으로 재정의되어야 한다고 논평할 정도였다.; 

하르나드에 따르면 존 설의 논증은 "인지 과학의 고전 같은 것"이 되었다. 바롤 아크만 역시 이에 동의하며, 원래의 논문을 "철학적 명료성과 순수성의 전형"이라고 묘사했다.

 철학 
중국어 방 논증은 원래 인공지능 연구자들의 발언에 대한 반응으로 제시되었지만, 철학자들은 이를 심리철학의 중요한 부분으로 여기게 되었다. 이는 기능주의와 계산주의 마음 이론에 대한 도전이며, 심신 문제, 타인의 마음 문제, 기호 접지 문제, 그리고 의식의 어려운 문제와 같은 질문들과 관련이 있다.

 강인공지능 
존 설은 자신이 "강인공지능"(strong AI)이라고 부르는 철학적 입장을 식별했다.

이 정의는 마음을 시뮬레이션하는 것과 실제로 마음을 갖는 것 사이의 구분에 달려 있다. 존 설은 "강인공지능에 따르면 올바른 시뮬레이션은 정말로 마음이다. 약인공지능에 따르면 올바른 시뮬레이션은 마음의 모델이다"라고 썼다.

이러한 주장은 초기 AI 연구자들과 분석가들의 일부 발언에 암시되어 있다. 예를 들어, 1957년에 경제학자이자 심리학자인 허버트 사이먼은 "이제 세상에는 생각하고 배우고 창조하는 기계가 존재한다"고 선언했다.Simon, H., & Newell, A. (1958). Heuristic Problem Solving: The Next Advance Operations Research, 6(1), 1-10 사이먼은 앨런 뉴얼, 클리프 쇼와 함께 형식적 추론을 수행할 수 있는 최초의 프로그램(논리 이론가)을 완성한 후, "물질로 구성된 시스템이 어떻게 마음의 속성을 가질 수 있는지를 설명함으로써 유서 깊은 심신 문제를 해결했다"고 주장했다.Quoted in  존 하우글랜드는 "AI는 완전하고 문자 그대로의 의미에서 '마음을 가진 기계'라는 오직 진품만을 원한다. 이것은 공상과학 소설이 아니라 대담하고 심오한 이론적 구상에 근거한 진짜 과학이다. 즉, 우리는 근본적으로 '우리 자신이 컴퓨터'라는 것이다"라고 썼다.

존 설은 또한 강인공지능 옹호자들에게 다음과 같은 주장을 부여한다.
 AI 시스템은 마음을 설명하는 데 사용될 수 있다.
 뇌의 연구는 마음의 연구와 무관하다.
 튜링 검사는 정신 상태의 존재를 입증하기에 충분하다.

 계산주의 또는 기능주의로서의 강인공지능 
최근의 중국어 방 논증 발표에서 존 설은 "강인공지능"을 "컴퓨터 기능주의"(대니얼 데닛이 명명한 용어)로 규정했다. 기능주의는 현대 심리철학의 입장으로, 신념, 욕구, 지각과 같은 정신 현상을 서로 간의 관계 및 외부 세계와의 관계에서의 기능을 기술함으로써 정의할 수 있다고 주장한다. 기능주의에 따르면 컴퓨터 프로그램은 기능적 관계를 기호 간의 관계로 정확하게 표현할 수 있기 때문에, 적절한 프로그램을 실행한다면 컴퓨터는 정신 현상을 가질 수 있다.

스테판 하르나드는 존 설의 강인공지능 묘사가 "실제로 많은 사상가들이 견지하고 있는 입장인 '계산주의'의 인식 가능한 원칙들로 재구성될 수 있으며, 따라서 반박할 가치가 있다"고 주장한다. 계산주의는 마음을 정보 처리 시스템으로 정확하게 설명할 수 있다고 주장하는 심리철학의 입장이다.

하르나드에 따르면 다음의 각 항목은 계산주의의 "원칙"이다.
 정신 상태는 계산 상태이다(이것이 컴퓨터가 정신 상태를 가질 수 있고 마음을 설명하는 데 도움을 줄 수 있는 이유이다).
 계산 상태는 구현 독립적이다. 즉, 하드웨어가 아니라 소프트웨어가 계산 상태를 결정한다(이것이 하드웨어인 뇌가 무관한 이유이다).
 구현은 중요하지 않으므로 유일하게 중요한 경험적 데이터는 시스템이 어떻게 기능하는가이다. 따라서 튜링 검사가 결정적이다.

최근의 철학적 논의들은 계산주의가 인공지능에 미치는 시사점을 다시 검토하고 있다. 골드스타인과 레빈스타인은 챗GPT와 같은 대형 언어 모델(LLM)이 신념, 욕구, 의도를 포함한 통속 심리학을 보여주는 능력을 중심으로 마음을 가질 수 있는지 탐구한다. 저자들은 LLM이 세계에 대한 강력한 내부 표현을 보여줌으로써 정보적, 인과적, 구조적 이론과 같은 정신적 표상에 관한 여러 철학적 이론을 충족한다고 주장한다. 그러나 그들은 LLM이 신념-욕구 심리학에 필요한 행동 성향을 가지고 있다는 증거는 여전히 결정적이지 않다고 강조한다. 또한 그들은 "확률적 앵무새" 논증이나 암기에 대한 우려와 같은 일반적인 회의적 도전을 반박하며, LLM이 이러한 철학적 기준에 부합하는 구조화된 내부 표현을 보여준다고 주장한다.

데이비드 차머스는 현재의 LLM이 순환 처리나 통합된 에이전트성과 같은 기능이 부족하지만, AI의 발전이 향후 10년 내에 이러한 한계를 해결하여 잠재적으로 시스템이 의식을 달성할 수 있게 할 것이라고 제안한다. 이러한 관점은 순수하게 "통사론적" 처리는 이해나 의식을 낳을 수 없다는 존 설의 원래 주장에 도전하며, 대신 그러한 시스템이 진정한 정신 상태를 가질 수 있다고 주장한다.

 강인공지능 대 생물학적 자연주의 
존 설은 자신이 "생물학적 자연주의"라고 부르는 철학적 입장을 견지한다. 이는 의식과 이해가 뇌에서 발견되는 특정한 생물학적 기제를 필요로 한다는 생각이다. 그는 "뇌가 마음을 유발한다"고 썼으며, "실제 인간의 정신 현상은 실제 인간 뇌의 실제 물리적-화학적 특성에 의존한다"고 주장한다. 존 설은 이러한 기제(신경과학에서는 "의식의 신경 상관물"로 알려짐)가 인간의 의식 경험을 가능하게 하는 어떤 인과적 힘을 가져야 한다고 주장한다. 이러한 힘의 존재에 대한 존 설의 믿음은 비판을 받아왔다.

존 설은 기계가 의식과 이해를 가질 수 있다는 생각에 반대하지 않는다. 왜냐하면 그가 썼듯이 "우리가 바로 그러한 기계이기 때문"이다. 존 설은 뇌가 실제로 기계이지만, 뇌는 특정한 기제를 사용하여 의식과 이해를 발생시킨다고 본다. 만약 신경과학이 의식을 발생시키는 기계적 과정을 분리해 낼 수 있다면, 존 설은 의식과 이해를 가진 기계를 만드는 것이 가능할 수 있음을 인정한다. 그러나 필요한 특정한 기제가 없다면 존 설은 의식이 일어날 수 없다고 믿는다.

생물학적 자연주의는 시스템이 어떻게 기능하는지를 검토하는 것만으로는 의식의 경험이 일어나고 있는지 판단할 수 없음을 시사하는데, 이는 뇌의 구체적인 기제가 필수적이기 때문이다. 따라서 생물학적 자연주의는 행동주의와 기능주의("컴퓨터 기능주의" 또는 "강인공지능" 포함) 모두에 직접적으로 반대된다. 생물학적 자연주의는 심리 동일론(정신 상태가 신경학적 사건과 "동일"하거나 그로 "구성"되어 있다는 입장)과 유사하지만, 존 설은 동일론에 대해 구체적인 기술적 반대 의견을 가지고 있다. 존 설의 생물학적 자연주의와 강인공지능은 둘 다 뇌와 마음이 서로 다른 "실체"로 만들어졌다는 고전적 아이디어인 데카르트 이원론에 반대한다. 실제로 존 설은 강인공지능을 이원론이라 비난하며, "강인공지능은 마음에 관한 한 뇌는 중요하지 않다는 이원론적 가정을 전제할 때만 의미가 있다"고 썼다.

 의식 
존 설의 원래 발표는 이해, 즉 의도성을 가진 정신 상태를 강조했으며 "의식"과 같은 밀접하게 관련된 다른 아이디어들을 직접적으로 다루지는 않았다. 그러나 더 최근의 발표에서 존 설은 의식을 논증의 실제 목표로 포함시켰다.

데이비드 차머스는 "중국어 방 문제의 뿌리에는 의식이 있다는 점이 상당히 명확하다"고 썼다.

콜린 맥긴은 중국어 방이 의식의 어려운 문제가 근본적으로 해결 불가능하다는 증거를 제공한다고 주장한다. 이 논증은 기계가 의식을 가질 수 있는지에 대한 것이 아니라, 어떤 존재가 의식이 있음을 보여줄 수 있는지에 대한 것이다. 중국어 방의 거주자를 조사하는 모든 방법은 원칙적으로 중국어로 질문과 답변을 주고받는 것과 동일한 어려움을 갖는다. 맥긴에 따르면 의식적인 대리인이 방 안에 있는지 아니면 영리한 시뮬레이션이 있는지 판단하는 것은 불가능하다.

존 설은 이것이 방 외부의 관찰자에게만 해당된다고 주장한다. 이 사고 실험의 핵심은 누군가를 방 안에 넣어 의식의 작동을 직접 관찰하게 하는 것이다. 존 설은 방 안의 유리한 지점에서 볼 때, 자신을 제외하고는 의식을 발생시킬 수 있다고 상상할 수 있는 어떤 것도 보이지 않으며, 자신은 분명히 중국어를 말할 수 있는 마음을 가지고 있지 않다고 주장한다. 존 설의 말에 따르면, "컴퓨터는 내가 아무것도 이해하지 못하는 경우에 가진 것 이상을 가지고 있지 않다."

 응용 윤리 

섬네일|right|군함의 전투 정보실에 앉아 있는 모습—중국어 방의 실제 사례로 제안됨

패트릭 휴는 지휘관의 도덕적 대리인성을 유지하기 위해 군사 지휘통제 시스템에 요구되는 사항들을 추론하기 위해 중국어 방 논증을 사용했다. 그는 지휘 센터의 지휘관과 중국어 방 안의 사람 사이의 유사성을 이끌어냈고, 아리스토텔레스의 "강제"와 "무지"의 개념을 읽는 방식으로 이를 분석했다. 정보는 의미에서 기호로 "하향 변환"되어 기호적으로 조작될 수 있지만, 의미로의 "상향 변환"이 부적절할 경우 도덕적 대리인성이 훼손될 수 있다. 휴는 이란 항공 655편 격추 사건을 예로 들었다.

 컴퓨터 과학 
중국어 방 논증은 일차적으로 심리철학의 논증이며, 주요 컴퓨터 과학자들과 인공지능 연구자들은 이를 자신의 분야와 무관한 것으로 간주한다. 그러나 이 논증을 이해하기 위해서는 물리 기호 체계, 튜링 기계, 튜링 완전, 튜링 검사를 포함하여 컴퓨터 과학자들이 개발한 몇 가지 개념이 필수적이다.

 강인공지능 대 AI 연구 
존 설의 논증은 보통 AI 연구에서 문제로 간주되지 않는다. 인공지능 연구의 주요 임무는 지능적으로 행동하는 유용한 시스템을 만드는 것일 뿐이며, 그 지능이 "단지" 시뮬레이션인지 여부는 중요하지 않다. AI 연구자 스튜어트 J. 러셀과 피터 노빅은 2021년에 다음과 같이 썼다. "우리는 지능적으로 행동하는 프로그램에 관심이 있다. 의식의 개별적 측면들—알아차림, 자기 인식, 주의—은 프로그래밍될 수 있으며 지능형 기계의 일부가 될 수 있다. 기계를 인간과 똑같은 방식으로 의식 있게 만드는 추가적인 프로젝트는 우리가 맡을 준비가 된 것이 아니다."

존 설은 AI 연구가 고도로 지능적인 행동이 가능한 기계를 만들 수 있다는 점에 부정하지 않는다. 중국어 방 논증은 인간보다 더 지능적으로 행동하지만 뇌가 가진 방식의 마음이나 의도성을 갖지 않은 디지털 기계가 구축될 가능성을 열어둔다.

존 설의 "강인공지능 가설"은 레이 커즈와일이나 다른 미래학자들이 정의하는 "강한 AI"와 혼동되어서는 안 된다. 그들은 인간 지능에 필적하거나 능가하는 기계 지능, 즉 인공 일반 지능, 인간 수준 AI 또는 초지능을 설명하기 위해 이 용어를 사용한다. 커즈와일은 주로 기계가 보여주는 지능의 '양'을 언급하는 반면, 존 설의 논증은 여기에 제한을 두지 않는다. 존 설은 초지능 기계가 반드시 마음과 의식을 가질 필요는 없다고 주장한다.

 튜링 검사 

섬네일|튜링 검사의 "표준적 해석". 질문자인 플레이어 C는 플레이어 A와 B 중 어느 쪽이 컴퓨터이고 어느 쪽이 인간인지 판별하는 과제를 부여받는다. 질문자는 판별을 위해 서면 질문에 대한 응답만을 사용할 수 있다. Saygin et al. 2000에서 수정됨.
중국어 방은 튜링 검사의 한 버전을 구현한다. 앨런 튜링은 1950년에 "기계가 생각할 수 있는가?"라는 질문에 답하기 위해 이 검사를 도입했다. 표준 버전에서 인간 심판은 인간 및 인간과 구별할 수 없는 성능을 내도록 설계된 기계와 자연어 대화를 나눈다. 모든 참가자는 서로 분리되어 있다. 심판이 기계와 인간을 확실하게 구별할 수 없다면, 그 기계는 검사를 통과한 것으로 간주된다.

튜링은 "기계가 생각할 수 있다"는 제안에 대한 모든 가능한 반론을 검토했고, 질문이 이런 방식으로 신비감이 제거된다면 간단하고 명백한 답이 존재한다는 것을 발견했다. 그러나 그는 이 검사가 "의식"이나 "이해"의 존재를 측정하도록 의도하지 않았다. 그는 이것이 자신이 다루는 문제와 무관하다고 믿었다. 그는 다음과 같이 썼다.

마음과 의식의 본질을 탐구하는 철학자인 존 설에게 이것들은 관련 있는 신비들이다. 중국어 방은 비록 그 방이 의식적인 마음처럼 행동하거나 기능할 수 있더라도, 튜링 검사가 의식의 존재를 탐지하기에는 불충분하다는 것을 보여주기 위해 설계되었다.

 기호 처리 

컴퓨터는 계산을 수행하고 시뮬레이션을 하기 위해 물리적 객체들을 조작한다. AI 연구자 앨런 뉴얼과 허버트 사이먼은 이런 종류의 기계를 물리 기호 체계라고 불렀다. 이는 또한 수리논리학 분야에서 사용되는 형식 체계와 동등하다.

존 설은 이런 종류의 기호 조작이 (문법 연구에서 빌려온 용어인) 통사론적이라는 사실을 강조한다. 컴퓨터는 기호의 의미론(즉, 그들의 의미)에 대한 지식 없이 통사론의 형식을 사용하여 기호를 조작한다.

뉴얼과 사이먼은 (디지털 컴퓨터와 같은) 물리 기호 체계가 "일반적인 지능적 행동", 즉 오늘날 알려진 인공 일반 지능을 위한 필요한 모든 기제를 갖추고 있다고 추측했다. 그들은 이를 철학적 입장인 물리 기호 체계 가설로 정식화했다: "물리 기호 체계는 일반적인 지능적 행동을 위한 필요충분한 수단을 갖추고 있다." 중국어 방 논증은 이를 반박하지 않는데, 이는 이해, 의식, 마음의 유무보다는 기계의 외부 행동인 "지능적 행동"의 관점에서 틀이 잡혀 있기 때문이다.

21세기 AI 프로그램(예: "딥 러닝")은 식별되지 않은 방대한 숫자 행렬에 대해 수학적 연산을 수행하며, 존 설이 1980년에 비판을 썼을 당시에 사용되었던 기호 처리와는 거의 닮지 않았다. 닐스 닐슨은 이러한 시스템들을 "기호적"이라기보다 "역동적"이라고 묘사한다. 닐슨은 이것들이 본질적으로 역동적 시스템의 디지털화된 표현이라고 지적한다. 개별 숫자들은 구체적인 의미론을 갖지 않으며 대신 역동적 신호의 표본이나 데이터 포인트이며, 의미론을 갖는 것은 근사화된 신호 그 자체이다. 닐슨은 이러한 신호들을 물리 기호 체계 가설에서와 같은 의미의 "기호 처리"로 간주하는 것은 합리적이지 않다고 주장한다.

 중국어 방과 튜링 완전 

중국어 방은 현대 컴퓨터와 유사한 설계를 가지고 있다. 이는 프로그램(지침서), 메모리(종이와 서류함), 지침을 따르는 기계(사람), 그리고 메모리에 기호를 쓰는 수단(연필과 지우개)으로 구성된 폰 노이만 구조를 갖는다. 이러한 설계를 가진 기계는 이론 컴퓨터 과학에서 "튜링 완전"하다고 알려져 있는데, 이는 튜링 기계가 할 수 있는 모든 계산을 수행할 수 있는 필요한 기제를 갖추고 있으며, 따라서 충분한 메모리와 시간만 주어진다면 다른 어떤 디지털 기계도 단계별로 시뮬레이션할 수 있기 때문이다. 튜링은 "모든 디지털 컴퓨터는 어떤 의미에서 동등하다"고 썼다. 널리 받아들여지는 처치-튜링 논제는 효과적인 절차에 의해 계산 가능한 모든 함수는 튜링 기계에 의해 계산 가능하다는 주장이다.

중국어 방의 튜링 완전성은 이 방이 다른 어떤 디지털 컴퓨터가 할 수 있는 일이라도(비록 훨씬, 훨씬 더 느리겠지만) 수행할 수 있음을 의미한다. 따라서 만약 중국어 방에 중국어를 하는 마음이 들어있지 않거나 들어있을 수 없다면, 다른 어떤 디지털 컴퓨터도 마음을 담을 수 없다. 존 설에 대한 일부 응답은 묘사된 대로의 방이 중국어를 하는 마음을 가질 수 없다고 주장하는 것에서 시작한다. 스테판 하르나드에 따르면 이러한 형태의 주장은 중국어 방 논증에 대한 "반박이 아니라 (오히려 긍정)"인데, 이러한 주장들이 실제로는 어떤 디지털 컴퓨터도 마음을 가질 수 없음을 함축하기 때문이다.

하노크 벤야미와 같은 일부 비평가들은 중국어 방이 현재 시간을 파악하는 능력과 같은 디지털 컴퓨터의 모든 능력을 시뮬레이션할 수는 없다고 주장한다.

 전체 논증 
존 설은 중국어 방이 그 일부를 형성하는 논증의 더 형식적인 버전을 만들어 냈다. 그는 1984년에 첫 번째 버전을 제시했다. 아래에 제시된 버전은 1990년의 것이다.; . 중국어 방 사고 실험은 A3 지점을 증명하기 위한 것이다.

그는 세 가지 공리로 시작한다.
(A1) "프로그램은 형식적(통사론적)이다."
프로그램은 통사론을 사용하여 기호를 조작하며 기호의 의미론에는 관심을 두지 않는다. 프로그램은 기호를 어디에 두고 어떻게 옮길지는 알지만, 그것들이 무엇을 상징하는지 혹은 무엇을 의미하는지는 모른다. 프로그램에게 기호는 다른 것들과 마찬가지로 그저 물리적 객체일 뿐이다.

(A2) "마음은 정신적 내용(의미론)을 가진다."
프로그램에서 사용되는 기호와 달리, 우리의 생각은 의미를 가진다. 그것들은 사물을 표상하며 우리는 그것들이 무엇을 표상하는지 안다.

(A3) "통사론 그 자체는 의미론의 구성 요소도 아니고 의미론에 충분하지도 않다."
이것이 바로 중국어 방 사고 실험이 증명하려는 것이다. 중국어 방에는 통사론이 있다(기호를 옮기는 사람이 있기 때문에). 중국어 방에는 의미론이 없다(존 설에 따르면 방 안에는 기호가 무엇을 의미하는지 이해하는 사람이나 사물이 아무것도 없기 때문에). 따라서 통사론을 갖는 것만으로는 의미론을 생성하기에 충분하지 않다.

존 설은 이것들이 바로 이 결론으로 이어진다고 상정한다.

(C1) 프로그램은 마음의 구성 요소도 아니고 마음에 충분하지도 않다.
이는 처음 세 가지로부터 논란의 여지 없이 도출되어야 한다. 프로그램은 의미론을 갖지 않는다. 프로그램은 통사론만을 가지며, 통사론은 의미론에 불충분하다. 모든 마음은 의미론을 가진다. 따라서 어떤 프로그램도 마음이 아니다.

논증의 이 부분은 기호 조작 프로그램을 작성함으로써 마음을 가진 기계를 인공지능이 결코 만들어낼 수 없음을 보여주기 위한 것이다. 논증의 나머지 부분은 다른 문제를 다룬다. 인간의 뇌는 프로그램을 실행하고 있는가? 즉, 계산주의 마음 이론이 옳은가? 그는 뇌와 마음에 관한 기초적인 현대 과학적 합의를 표현하려는 의도의 공리로 시작한다.

(A4) 뇌가 마음을 유발한다.

존 설은 다음을 "즉각적으로" 그리고 "사소하게" 도출할 수 있다고 주장한다.

(C2) 마음을 유발할 수 있는 다른 모든 시스템은 (적어도) 뇌와 동등한 인과적 힘을 가져야 한다.
뇌는 마음이 존재하게 만드는 무언가를 가지고 있어야 한다. 과학은 그것이 정확히 무엇인지 아직 밝혀내지 못했지만, 마음이 존재하므로 그것은 반드시 존재해야 한다. 존 설은 이를 "인과적 힘"이라 부른다. "인과적 힘"은 뇌가 마음을 만들기 위해 사용하는 그 무엇이다. 만약 다른 것이 마음을 존재하게 할 수 있다면, 그것은 "동등한 인과적 힘"을 가져야 한다. "동등한 인과적 힘"은 마음을 만드는 데 사용될 수 있는 '다른' 모든 것을 의미한다.

그리고 이것으로부터 그는 추가적인 결론을 도출한다.

(C3) 정신 현상을 만들어내는 모든 인공물, 즉 모든 인공 뇌는 뇌의 특정한 인과적 힘을 복제할 수 있어야 하며, 단순히 형식적인 프로그램을 실행하는 것만으로는 그렇게 할 수 없다.
이는 C1과 C2로부터 도출된다. 어떤 프로그램도 마음을 생성할 수 없고, "동등한 인과적 힘"은 마음을 생성하므로, 프로그램은 "동등한 인과적 힘"을 갖지 않는다는 결론이 나온다.

(C4) 인간의 뇌가 실제로 정신 현상을 생성하는 방식은 단순히 컴퓨터 프로그램을 실행함으로써 이루어지는 것일 수 없다.
프로그램은 "동등한 인과적 힘"을 갖지 않고, "동등한 인과적 힘"이 마음을 생성하며, 뇌가 마음을 생성하므로, 뇌는 마음을 생성하기 위해 프로그램을 사용하지 않는다는 결론이 나온다.

존 설의 논증에 대한 반박은 여러 가지 다른 형태를 취한다(아래 참조). 계산주의자와 기능주의자들은 통사론이 올바른 기능적 구조를 갖는다면 (존 설이 묘사하는 방식의) "통사론"이 "의미론"을 가질 '수 있다'고 주장하며 A3을 거부한다. 제거적 유물론자들은 마음이 실제로 "의미론"을 갖지 않는다고 주장하며 A2를 거부한다. 즉, 생각과 다른 정신 현상은 본질적으로 무의미하지만 그럼에도 불구하고 의미가 있는 것처럼 기능한다는 것이다.

 응답 
존 설의 논증에 대한 응답은 그들이 무엇을 보여주려고 하는지에 따라 분류될 수 있다.
 중국어를 말하는 주체가 누구인지 식별하는 응답들
 무의미한 기호가 어떻게 의미를 갖게 될 수 있는지 보여주는 응답들
 중국어 방이 어떤 방식으로 재설계되어야 한다고 제안하는 응답들
 존 설의 논증이 오해의 소지가 있다고 주장하는 응답들
 논증이 주관적인 의식 경험에 대해 잘못된 가정을 하고 있으므로 아무것도 증명하지 못한다고 주장하는 응답들

일부 논증(예: 로봇 및 뇌 시뮬레이션)은 여러 범주에 걸쳐 있다.

 시스템 및 가상 마음 응답: 마음 찾기 
이 응답들은 다음 질문에 답하려는 시도이다: 방 안의 사람이 중국어를 하지 못한다면, 중국어를 하는 마음은 어디에 있는가? 이 응답들은 마음 대 신체 및 시뮬레이션 대 실제라는 핵심적인 존재론적 문제를 다룬다. 방 안에서 마음을 식별하는 모든 응답은 "시스템 응답"의 변형이다.

 시스템 응답 
시스템 응답의 기본 버전은 중국어를 이해하는 것은 "전체 시스템"이라고 주장한다.; ; ;  ; ; . 방 안의 사람은 영어만 이해하지만, 그가 프로그램, 연습장, 연필, 서류함과 결합될 때 그들은 중국어를 이해할 수 있는 시스템을 형성한다. 존 설은 "여기서 이해는 단순한 개인에게 귀속되는 것이 아니라, 그가 속한 이 전체 시스템에 귀속되는 것이다"라고 설명한다.

존 설은 (이 응답의 단순한 버전에서) "시스템"이 일반적인 물리적 객체들의 집합에 불과하다고 지적한다. 그것은 이 물체 더미가 어떻게 의식이 있고 생각하는 존재가 되었는지 설명하려는 어떠한 노력도 없이 "그 사람과 종이 조각들의 결합"에 이해와 의식의 힘을 부여한다. 존 설은 어떤 이데올로기에 "사로잡혀" 있지 않는 한, 합리적인 사람이라면 누구도 이 응답에 만족해서는 안 된다고 주장한다. 이 응답이 조금이라도 설득력을 얻으려면, 의식이 정보 처리 "시스템"의 산물일 수 있으며 뇌의 실제 생물학적 특성과 유사한 어떤 것도 필요하지 않다는 것을 당연하게 받아들여야만 한다.

존 설은 이 물리적 객체들의 목록을 단순화하여 대응한다. 만약 그 사람이 규칙을 암기하고 머릿속으로 모든 것을 추적한다면 어떻게 될까? 그렇다면 전체 시스템은 오직 하나의 객체, 즉 그 사람 자신으로 구성된다. 존 설은 만약 그 사람이 중국어를 이해하지 못한다면 시스템도 중국어를 이해하지 못한다고 주장한다. 왜냐하면 이제 "시스템"과 "그 사람"은 둘 다 정확히 같은 객체를 묘사하기 때문이다.

존 설의 응답에 대한 비판가들은 프로그램이 한 머릿속에 두 개의 마음이 존재하도록 허용했다고 주장한다. 만약 우리가 "마음"을 정보 처리의 한 형태라고 가정한다면, 계산 이론은 한 번에 일어나는 두 가지 계산을 설명할 수 있다. 즉, (1) 특정 프로그램 내용과 독립적으로 사람과 필기 도구에 의해 구체화된 기능인 범용 튜링 기계로서의 계산과 (2) 프로그램에 의해 기술된 튜링 기계의 계산(특정 프로그램을 포함한 모든 것에 의해 구체화됨)이다. 따라서 계산 이론은 중국어 방에서의 두 번째 계산이 중국어 입력에 대한 인간과 동등한 의미론적 이해를 수반할 수 있는 열린 가능성을 형식적으로 설명한다. 초점은 그 사람이 아니라 프로그램의 튜링 기계에 맞춰져야 한다. 그러나 존 설의 관점에서 이 논증은 순환 논법이다. 쟁점이 되는 질문은 의식이 정보 처리의 한 형태인지 여부이며, 이 응답은 그 가정을 전제해야만 성립하기 때문이다.

시스템 응답의 더 정교한 버전들은 "시스템"이 정확히 무엇인지 식별하려고 시도하며, 그것을 기술하는 방식에 있어 차이가 있다. 이러한 응답들에 따르면, "중국어를 말하는 마음"은 소프트웨어, 프로그램, 실행 중인 프로그램, "의식의 신경 상관물"의 시뮬레이션, 기능적 시스템, 시뮬레이션된 마음, "강한 창발적 속성", 또는 "가상 마음"과 같은 것들일 수 있다.

 가상 마음 응답 
마빈 민스키는 "가상 마음 응답"으로 알려진 시스템 응답의 한 버전을 제안했다. "가상"이라는 용어는 컴퓨터 과학에서 소프트웨어가 존재하게 보이게 함으로써만 컴퓨터(또는 컴퓨터 네트워크) "안에" 존재하는 것처럼 보이는 객체를 설명하는 데 사용된다. 컴퓨터 "안의" 객체들(파일, 폴더 등을 포함)은 컴퓨터의 전자 부품들을 제외하고는 모두 "가상"이다. 마찬가지로 민스키는 컴퓨터가 가상 머신, 가상 커뮤니티, 가상 현실과 같은 의미에서 가상적인 "마음"을 포함할 수 있다고 제안한다.

위에서 제시된 단순한 시스템 응답과 가상 마음 응답 사이의 구분을 명확히 하기 위해, 데이비드 콜은 한 시스템에서 두 개의 시뮬레이션이 동시에 실행될 수 있다고 지적한다. 하나는 중국어를 말하고 하나는 한국어를 말한다. 시스템은 하나뿐이지만 여러 "가상 마음"이 존재할 수 있으므로 "시스템"은 "마음"이 될 수 없다.

존 설은 그러한 마음은 기껏해야 시뮬레이션일 뿐이라고 응답하며 다음과 같이 썼다. "5급 화재에 대한 컴퓨터 시뮬레이션이 인근 지역을 태워버릴 것이라고 생각하거나, 폭풍우에 대한 컴퓨터 시뮬레이션이 우리를 흠뻑 젖게 할 것이라고 생각하는 사람은 아무도 없다." 니콜라스 펀은 어떤 것들에 대해서는 시뮬레이션이 실물만큼 좋다고 응답한다. "데스크톱 컴퓨터에서 포켓 계산기 기능을 불러오면 화면에 포켓 계산기 이미지가 나타난다. 우리는 그것이 진짜 계산기가 아니라고 불평하지 않는데, 왜냐하면 기기의 물리적 속성은 중요하지 않기 때문이다." 문제는 인간의 마음이 본질적으로 정보로 구성되어 그 시뮬레이션이 곧 실물이 되는 포켓 계산기와 같은 것인지, 아니면 마음이 그 시뮬레이션 이상의 존재이며 컴퓨터 시뮬레이션으로는 온전히 실현될 수 없는 세상 속의 폭풍우와 같은 것인가이다. 수십 년 동안 이 시뮬레이션 문제는 AI 연구자들과 철학자들이 그러한 지능을 "인공"이라고 부르는 일반적인 설명보다 "합성 지능"이라는 용어가 더 적절한지 고려하게 만들었다.

이 응답들은 정확히 누가 중국어를 이해하는지에 대한 설명을 제공한다. 만약 방 안에 존 설 말고 중국어를 이해할 수 있는 다른 것이 있다면, 존 설은 (1) 그 사람은 중국어를 이해하지 못한다, 그러므로 (2) 방 안의 그 무엇도 중국어를 이해하지 못한다는 주장을 할 수 없다. 이 응답을 하는 이들에 따르면, 이는 존 설의 논증이 "강인공지능"이 거짓임을 증명하는 데 실패했음을 보여준다.

그러나 이 응답들 자체가 강인공지능이 참이라는 증거를 제공하지는 않는다. 그것들은 시스템(또는 가상 마음)이 튜링 검사를 통과한다는 가설적 전제 외에 중국어를 이해한다는 것을 보여주지 못한다. 존 설은 우리가 강인공지능을 조금이라도 설득력 있게 고려하려면 중국어 방이 설명이 필요한 예시이며, 방에서 어떻게 의식이 "창발"할 수 있는지 혹은 시스템이 어떻게 의식을 가질 수 있는지 설명하는 것은 어렵거나 불가능하다고 주장한다. 존 설이 썼듯이 "시스템 응답은 단순히 시스템이 중국어를 이해해야만 한다고 우김으로써 질문을 구걸하고(선결문제 요구의 오류) 있으며" 따라서 질문을 회피하거나 가망 없이 순환적이다.

 로봇 및 의미론 응답: 의미 찾기 
방 안의 사람에게 기호는 단지 무의미한 "구불구불한 선"일 뿐이다. 하지만 중국어 방이 정말로 자신이 말하는 것을 "이해"한다면, 그 기호들은 어딘가에서 의미를 얻어야만 한다. 이 논증들은 기호와 그것이 상징하는 사물을 연결하려는 시도이다. 이 응답들은 의도성, 기호 접지, 그리고 통사론 대 의미론에 대한 존 설의 우려를 다룬다.

 로봇 응답 
프로그램이 방 대신 환경을 돌아다니며 상호작용할 수 있는 로봇 안에 설치되었다고 가정해 보자. 이것은 기호와 그것이 표상하는 사물들 사이에 "인과적 연결"을 허용할 것이다.; ; ; . 한스 모라벡은 다음과 같이 논평한다. "추론 프로그램에 로봇을 접목할 수 있다면, 우리는 더 이상 의미를 제공할 사람이 필요하지 않을 것이다. 의미는 물리적 세계로부터 올 것이다."Quoted in 

존 설의 답변은 중국어 방 안의 개인이 모르는 사이에 입력 중 일부는 로봇에 장착된 카메라에서 직접 오고, 출력 중 일부는 로봇의 팔다리를 조작하는 데 사용된다고 가정해 보라는 것이다. 그럼에도 불구하고 방 안의 사람은 여전히 규칙을 따르고 있을 뿐이며, 기호가 무엇을 의미하는지 모른다. 존 설은 "그는 로봇의 눈에 무엇이 들어오는지 '보지' 못한다"고 썼다.

 파생된 의미 
일부 사람들은 존 설이 묘사하는 방이 세상과 연결되어 있다고 응답한다. 그 방이 "대화"하고 있는 중국어 화자들을 통해서, 그리고 서류함 속의 지식 베이스를 설계한 프로그래머들을 통해서 말이다. 존 설이 조작하는 기호들은 이미 의미가 있으며, 단지 그에게만 의미가 없을 뿐이다.; .

존 설은 기호들이 책 속의 단어들처럼 단지 "파생된" 의미만을 가질 뿐이라고 말한다. 기호의 의미는 방 밖의 중국어 화자들과 프로그래머들의 의식적인 이해에 달려 있다. 책과 마찬가지로 방 자체에는 이해가 없다.

 맥락주의 응답 
어떤 이들은 기호의 의미가 프로그램과 서류함에 인코딩된 방대한 "배경"의 상식으로부터 나올 것이라고 주장해 왔다. 이는 기호에 의미를 부여할 "맥락"을 제공할 것이다.

존 설은 이러한 배경이 존재한다는 점에는 동의하지만, 그것이 프로그램에 내장될 수 있다는 점에는 동의하지 않는다. 휴버트 드라이퍼스 역시 "배경"이 기호적으로 표현될 수 있다는 생각에 비판적이었다.

이러한 각 제안에 대한 존 설의 답변은 동일하다. 프로그램에 얼마나 많은 지식이 기록되어 있든, 프로그램이 세상과 어떻게 연결되어 있든, 그는 여전히 방 안에서 규칙에 따라 기호를 조작하고 있을 뿐이다. 그의 행동은 통사론적이며, 이것은 그에게 기호가 무엇을 나타내는지 결코 설명해 줄 수 없다. 존 설은 "통사론은 의미론에 불충분하다"고 썼다.

그러나 존 설의 행동이 자신의 마음과는 별개로 하나의 마음을 시뮬레이션한다는 점을 수용하는 이들에게 중요한 질문은 존 설에게 기호가 무엇을 의미하는지가 아니라, 가상 마음에게 그것들이 무엇을 의미하는지이다. 존 설은 방 안에 갇혀 있는 반면 가상 마음은 그렇지 않다. 그것은 대화하는 중국어 화자들을 통해, 세계 지식을 제공한 프로그래머들을 통해, 그리고 로봇공학자들이 제공할 수 있는 카메라 및 기타 센서들을 통해 외부 세계와 연결되어 있다.

 뇌 시뮬레이션 및 연결주의 응답: 방 재설계 
이 논증들은 모두 시스템 응답의 변형으로, 특정한 종류의 시스템이 중요하다고 밝힌다. 즉 기계에서 의식적인 이해를 만들어낼 어떤 특별한 기술을 식별한다. ("로봇" 및 "상식" 응답 또한 특정한 종류의 시스템이 중요하다는 점을 명시한다.)

 뇌 시뮬레이션 응답 
프로그램이 중국어 화자의 뇌 속에 있는 모든 뉴런의 활동을 아주 상세하게 시뮬레이션한다고 가정해 보자.; ; ; . 이는 프로그램의 작동과 살아있는 인간 뇌의 작동 사이에 유의미한 차이가 없을 것이라는 직관을 강화한다.

존 설은 그러한 시뮬레이션이 뇌의 중요한 특징들, 즉 그 인과적이고 의도적인 상태를 재현하지 못한다고 대답한다. 그는 "인간의 정신 현상은 실제 인간 뇌의 실제 물리적-화학적 특성에 의존한다"고 단언한다. 더욱이 그는 다음과 같이 주장한다.

 중국 뇌 
만약 우리가 중국의 모든 시민에게 한 명당 하나의 뉴런 역할을 맡기고, 전화 시스템을 사용하여 축삭돌기와 가지돌기 사이의 연결을 시뮬레이션하도록 요청하면 어떻게 될까? 이 버전에서는 어떤 개인도 뇌가 말하고 있는 내용에 대해 어떤 이해도 갖지 못할 것이 분명해 보인다.; . 또한 이 시스템이 뇌와 기능적으로 동등할 것이라는 점도 분명하므로, 만약 의식이 기능이라면 이 시스템은 의식이 있을 것이다.

 뇌 교체 시나리오 
여기서 우리는 엔지니어들이 개별 뉴런의 작용을 시뮬레이션하는 작은 컴퓨터를 발명했다고 상상해 보라는 요청을 받는다. 한 번에 하나의 뉴런을 교체한다면 어떻게 될까? 하나를 교체하는 것은 의식적 자각에 아무런 변화를 주지 않을 것이 분명하다. 그것들을 모두 교체하면 뇌를 시뮬레이션하는 디지털 컴퓨터가 만들어질 것이다. 만약 존 설이 옳다면, 의식적 자각은 시술 도중에 (점진적으로든 한꺼번에든) 사라져야 한다. 존 설의 비판가들은 시술 과정 중 의식적 자각이 끝나고 무의미한 시뮬레이션이 시작된다고 주장할 수 있는 지점은 없다고 말한다.; ; ; . (유사한 사고 실험으로 테세우스의 배를 참조하라.)

 연결주의 응답 
뇌 시뮬레이션 응답과 밀접하게 관련된 이 주장은 대규모 병렬 연결주의 아키텍처가 이해 능력을 가질 수 있다고 주장한다. 현대의 딥 러닝은 병렬적이며 여러 영역에서 지능적인 행동을 보여주었다. 닐스 닐슨은 현대 AI가 존 설이 1980년에 비판을 썼을 때 사용되었던 종류의 기호가 아닌 디지털화된 "역동적 신호"를 사용하고 있다고 주장한다. 여기에서 의미론을 갖는 것은 프로그램에 의해 조작되는 개별 숫자가 아니라 표본화된 신호이다. 이것은 존 설이 시각화했던 것과는 다른 종류의 기계이다.

 결합 응답 
이 응답은 로봇 응답과 뇌 시뮬레이션 응답을 결합하여, 로봇 몸체를 통해 세상과 연결된 뇌 시뮬레이션이 마음을 가질 수 있다고 주장한다.; .

 많은 저택 / 내년을 기다려라 응답 
미래의 더 나은 기술이 컴퓨터로 하여금 이해할 수 있게 해줄 것이다. 존 설은 이것이 가능할 수 있다는 점에는 동의하지만, 이 점이 무관하다고 간주한다. 존 설은 의식적 이해를 가진 뇌 이외의 다른 하드웨어가 존재할 수 있다는 점에 동의한다.

이러한 논증들(그리고 로봇이나 상식 응답들)은 기계에서 의식적 이해를 만드는 데 도움이 될 어떤 특별한 기술을 식별한다. 이것들은 두 가지 방식으로 해석될 수 있다. (1) 이 기술이 의식에 필수적이며, 중국어 방은 이 기술을 구현하지 않거나 구현할 수 없으므로, 중국어 방은 튜링 검사를 통과할 수 없거나 (통과하더라도) 의식적 이해를 갖지 못할 것이라고 주장한다. 혹은 (2) 이 기술이 방을 만드는 데 사용된다고 시각화한다면 중국어 방이 마음을 가지고 있다는 것을 더 쉽게 알 수 있다고 주장한다.

로봇 몸체나 연결주의 아키텍처와 같은 기능이 요구되는 첫 번째 경우, 존 설은 (자신이 이해하는 바의) 강인공지능이 포기된 것이라고 주장한다. 중국어 방은 튜링 완전한 기계의 모든 요소를 갖추고 있으며, 따라서 어떤 디지털 계산이라도 시뮬레이션할 수 있다. 만약 존 설의 방이 튜링 검사를 통과할 수 없다면, 튜링 검사를 통과할 수 있는 다른 디지털 기술도 존재하지 않는다. 만약 존 설의 방이 튜링 검사를 통과할 수는 있지만 여전히 마음을 갖지 못한다면, 튜링 검사는 방이 "마음"을 가졌는지 판단하기에 충분하지 않다. 어느 쪽이든, 그것은 존 설이 "강인공지능"이라고 생각하는 입장 중 하나를 부정하게 되어 그의 논증을 증명하게 된다.

특히 뇌 논증들은 마음을 설명하는 데 있어 뇌만큼이나 신비로운 프로그램을 만드는 것보다 더 간단한 방법이 없다고 가정한다면 강인공지능을 부정하는 셈이 된다. 그는 "나는 강인공지능의 핵심 아이디어가 마음이 어떻게 작동하는지 알기 위해 뇌가 어떻게 작동하는지 알 필요가 없다는 것이라고 생각했다"고 썼다. 만약 계산이 인간의 마음에 대한 설명을 제공하지 못한다면, 존 설에 따르면 강인공지능은 실패한 것이다.

다른 비평가들은 존 설이 묘사한 방이 실제로는 마음을 가지고 있지만 그것을 알아보기가 어렵다고 주장하며, 존 설의 묘사는 정확하지만 오해의 소지가 있다고 본다. 그들은 방을 더 현실적으로 재설계함으로써 이를 더 명확하게 만들기를 희망한다. 이 경우, 이러한 논증들은 직관에 호소하는 수단으로 사용되고 있는 것이다(다음 섹션 참조).

사실, 이 방은 우리의 직관을 약화시키기 위해 마찬가지로 쉽게 재설계될 수 있다. 네드 블록의 블록헤드 논증은 프로그램이 이론적으로 "만약 사용자가 S를 쓰면 P로 답하고 X로 가라"는 형태의 단순한 순람표 규칙으로 재작성될 수 있음을 시사한다. 원칙적으로 뇌 시뮬레이션을 포함한 어떤 프로그램이라도 (유한한 양의 메모리를 가진 기계에서 실행되는 한) 이 형태로 재작성(또는 "리팩터링")될 수 있다. 블록헤드 시나리오에서 전체 정신 상태는 다음 규칙과 연관된 숫자인 메모리 주소를 나타내는 글자 X에 숨겨져 있다. 한 개인의 의식 경험의 순간이 단 하나의 큰 숫자에 포착될 수 있다는 것을 시각화하기는 어렵지만, 이것이 바로 "강인공지능"이 주장하는 바이다. 반면에 그러한 순람표는 (물리적으로 불가능할 정도로) 터무니없이 클 것이며, 따라서 상태들이 지나치게 구체적일 수 있다.

존 설은 프로그램이 어떻게 작성되든, 기계가 세상과 어떻게 연결되든, 마음은 단순한 단계별 디지털 기계(또는 기계들)에 의해 시뮬레이션되고 있다고 주장한다. 이 기계들은 항상 방 안의 사람과 같다. 그들은 아무것도 이해하지 못하며 중국어를 말하지 못한다. 그들은 그저 의미를 모른 채 기호를 조작하고 있을 뿐이다. 존 설은 다음과 같이 썼다. "당신이 원하는 어떤 형식적 프로그램이라도 내가 가질 수 있지만, 나는 여전히 아무것도 이해하지 못한다."

 속도와 복잡성: 직관에의 호소 
다음 논증들(그리고 위 논증들에 대한 직관적 해석들)은 중국어를 하는 마음이 어떻게 존 설의 방에 존재할 수 있는지, 혹은 그가 조작하는 기호들이 어떻게 의미를 갖게 되는지를 직접적으로 설명하지는 않는다. 그러나 존 설의 직관에 의문을 제기함으로써 시스템 응답이나 로봇 응답과 같은 다른 입장들을 지지한다. 이러한 논증들은 받아들여질 경우 존 설이 자신의 확신이 요구하는 직관을 약화시킴으로써 자신의 결론이 자명하다고 주장하는 것을 막는다.

여러 비평가들은 존 설의 논증이 전적으로 직관에 의존한다고 믿는다. 블록은 "존 설의 논증은 특정 존재들이 생각하지 않는다는 직관에 그 힘을 의지하고 있다"고 썼다.Quoted in . 대니얼 데닛은 중국어 방 논증을 오해를 불러일으키는 "직관 펌프"라고 묘사하며 "존 설의 사고 실험은 불법적으로 당신이 너무 단순한 사례, 무관한 사례를 상상하게 하고 거기에서 뻔한 결론을 도출하게 만드는 데 달려 있다"고 썼다.

위의 논증들 중 일부는 직관에 호소하는 기능도 하는데, 특히 중국어 방에 마음이 들어있다는 것을 더 그럴듯하게 보이게 하려는 의도를 가진 로봇, 상식 지식, 뇌 시뮬레이션 및 연결주의 응답들이 그러하다. 위의 응답들 중 여럿은 복잡성이라는 구체적인 문제도 다룬다. 연결주의 응답은 작동하는 인공지능 시스템이 인간의 뇌만큼이나 복잡하고 상호 연결되어야 한다는 점을 강조한다. 상식 지식 응답은 대니얼 데닛이 설명하듯 튜링 검사를 통과하는 어떤 프로그램이라도 "'세계 지식'과 메타 지식, 메타-메타 지식으로 가득 찬 놀랍도록 유연하고 정교하며 다층적인 시스템"이어야 한다는 점을 강조한다.

 속도와 복잡성 응답 
이러한 비판들 중 다수는 인간 뇌의 속도와 복잡성을 강조하는데, 뇌는 (일부 추정치에 따르면) 초당 1,000억 번의 연산을 수행하며 정보를 처리한다. 여러 비평가들은 방 안의 사람이 간단한 질문에 답하는 데 아마도 수백만 년이 걸릴 것이며, 천문학적 규모의 "서류함"이 필요할 것이라고 지적한다.; ; . 이는 존 설의 직관이 가진 명료성에 의문을 제기한다.

속도와 복잡성 응답의 특히 생생한 버전은 폴 처칠랜드와 퍼트리샤 처칠랜드로부터 나왔다. 그들은 다음과 같은 유사한 사고 실험을 제안한다. "막대 자석이나 대전된 물체를 들고 있는 사람이 있는 어두운 방을 생각해 보라. 만약 그 사람이 자석을 위아래로 흔든다면, 제임스 클러크 맥스웰의 인공 광도(AL) 이론에 따라 전자기파의 확산 원이 시작되어 빛이 날 것이다. 하지만 자석이나 대전된 공을 가지고 놀아본 우리 모두가 잘 알듯이, 그것들의 힘은 (그 문제에 관한 다른 어떤 힘이라도) 운동 상태에 있을 때조차 빛을 전혀 발하지 않는다. 단순히 힘을 휘두르는 것만으로 진짜 빛을 구성할 수 있다는 것은 상상할 수 없다!" 처칠랜드의 요점은 무언가를 보기 위해서는 자석을 초당 약 450조 번 위아래로 흔들어야 한다는 데 문제가 있다는 것이다.; ; ; ; .

스테판 하르나드는 속도와 복잡성 응답이 우리의 직관을 다루는 수준을 넘어설 때 비판적이다. 그는 "일부 사람들은 속도와 타이밍을 숭상하며, 적절한 속도로 가속될 때 계산적인 것이 정신적인 것으로 상전이를 일으킬 수 있다고 주장해 왔다. 그것은 반박이 아니라 단지 임시방편적인 추측(모든 것이 단지 '복잡성'을 적절한 정도로 높이는 문제라는 견해와 마찬가지로)일 뿐임이 분명하다"고 썼다.

존 설은 자신의 비판가들 또한 직관에 의존하고 있지만, 그의 적들의 직관에는 경험적 근거가 없다고 주장한다. 그는 "시스템 응답"을 조금이라도 그럴듯하게 여기려면 어떤 이데올로기에 "사로잡혀" 있어야 한다고 썼다. 시스템 응답은 단지 올바른 행동과 기능적 부품을 가진 시스템이라는 이유만으로 어떤 "시스템"이 의식을 가질 수 있다고 가정할 때만 (존 설에게는) 의미가 통한다. 그는 우리의 의식 경험을 고려할 때 이러한 가정은 지탱될 수 없다고 주장한다.

 타인의 마음과 좀비: 무의미함 
여러 응답은 존 설의 논증이 무관하다고 주장하는데, 그 이유는 마음과 의식에 대한 그의 가정이 잘못되었기 때문이다. 존 설은 인간이 매일 자신의 의식, 의도성, 그리고 마음의 본질을 직접 경험하며, 이러한 의식의 경험은 의문의 여지가 없다고 믿는다. 그는 우리가 "정신적인 것의 실재성과 인식 가능성을 전제해야 한다"고 썼다. 아래의 응답들은 존 설이 자신의 의식 경험을 사용하여 그것이 기계적인 기호 처리 이상이라는 것을 판단하는 것이 정당한지 의문을 제기한다. 특히, 타인의 마음 응답은 우리가 자신의 의식 경험을 다른 마음(컴퓨터의 마음조차도)에 대한 질문에 답하는 데 사용할 수 없다고 주장하며, 수반현상 응답은 정의상 외부 세계에서 감지될 수 없는 의식과 같은 것에 대해 어떤 논증도 할 수 있는지 의문을 제기하고, 제거적 유물론 응답은 존 설 자신의 개인적인 의식이 그가 생각하는 그런 의미에서 "존재"하지 않는다고 주장한다.

 타인의 마음 응답 
"타인의 마음 응답"은 존 설의 논증이 기계에 적용된 "타인의 마음 문제"의 한 버전임을 지적한다. 다른 사람들의 주관적 경험이 우리 자신의 것과 같은지 판단할 방법은 없다. 우리는 오직 그들의 행동만을 연구할 수 있을 뿐이다(즉, 우리 나름의 튜링 검사를 수행함으로써). 존 설의 비판가들은 그가 일반적인 사람에게 적용하는 기준보다 중국어 방에 더 높은 기준을 적용하고 있다고 주장한다.; ; ; .

닐스 닐슨은 다음과 같이 썼다. "만약 프로그램이 곱셈을 하는 '것처럼' 행동한다면, 우리 대부분은 그것이 실제로 곱셈을 하고 있다고 말할 것이다. 내가 아는 한, 존 설은 이러한 문제들에 대해 깊이 생각하는 '것처럼' 행동하고 있을 뿐일 수도 있다. 하지만 비록 내가 그와 동의하지 않더라도, 그의 시뮬레이션은 상당히 훌륭하므로 나는 그에게 실제 사고의 공로를 기꺼이 인정할 용의가 있다."

튜링은 1950년에 (그가 "의식으로부터의 논증"이라 불렀던) 존 설의 논증 노선을 예상했고 타인의 마음 응답을 내놓았다. 그는 사람들이 서로를 대할 때 타인의 마음 문제를 결코 고려하지 않는다는 점에 주목했다. 그는 "이 지점에 대해 계속 논쟁하는 대신 모든 사람이 생각한다는 정중한 관례를 갖는 것이 일반적이다"라고 썼다. 튜링 검사는 단순히 이 "정중한 관례"를 기계로 확장한 것이다. 그는 (기계나 사람을 위한) 타인의 마음 문제를 해결할 의도가 없으며 그럴 필요도 없다고 생각한다.

 존 설의 "의식"이 탐지 불가능함을 고려한 응답들 
만약 우리가 의도성, 의식, 마음에 대한 존 설의 묘사를 받아들인다면, 우리는 의식이 수반현상적이라는 것, 즉 "그림자를 던지지 않는다"는 것, 다시 말해 외부 세계에서 탐지 불가능하다는 것을 인정해야만 한다. 존 설의 "인과적 속성"은 마음 외부의 누구에게도 탐지될 수 없다. 그렇지 않다면 중국어 방은 튜링 검사를 통과할 수 없을 것이다. 외부의 사람들은 방 안에 인과적 속성을 가진 중국어 화자가 없다는 것을 감지함으로써 알아낼 수 있을 것이기 때문이다. 그들이 인과적 속성을 감지할 수 없으므로, 그들은 정신적인 것의 존재를 감지할 수 없다. 따라서 존 설의 "인과적 속성"과 의식 그 자체는 탐지 불가능하며, 탐지될 수 없는 것은 존재하지 않거나 중요하지 않다.

마이크 올더는 이를 "뉴턴의 불타는 레이저 검 응답"이라 부른다. 그는 시뮬레이션된 마음과 실제 마음 사이의 구분이 불분명할 뿐만 아니라 두 가지를 구별하기 위한 어떠한 실험도 제안되지 않았고 제안될 수도 없기 때문에 논증 전체가 경박하다고 주장한다.

대니얼 데닛은 다음과 같은 예시를 제공한다. 어떤 돌연변이에 의해 존 설의 "인과적 속성"을 가지고 있지는 않지만 인간과 똑같이 행동하는 인간이 태어난다고 가정해 보자. 이것은 심리철학에서 정식화된 "철학적 좀비"이다. 이 새로운 동물은 다른 인간들과 마찬가지로 번식할 것이고 결국 더 많은 좀비들이 생겨날 것이다. 자연 선택은 좀비들을 선호할 것인데, 그들의 설계가 (가정컨대) 조금 더 단순하기 때문이다. 결국 인간들은 멸종할 것이다. 따라서 존 설이 옳다면, 오늘날 우리가 보는 인간들은 사실 "좀비"일 가능성이 높으며, 그럼에도 불구하고 자신들이 의식이 있다고 주장하고 있을 것이다. 우리가 모두 좀비인지 아닌지 아는 것은 불가능하다. 우리가 모두 좀비일지라도, 우리는 여전히 우리가 좀비가 아니라고 믿을 것이다.; ; .

 제거적 유물론 응답 
여러 철학자들은 존 설이 묘사하는 의식이 존재하지 않는다고 주장한다. 대니얼 데닛은 의식을 "사용자 환상"이라고 묘사한다.

이 입장은 때때로 "제거적 유물론"이라 불린다. 의식은 엄밀히 기계적인 설명으로 "환원"될 수 있는 개념이 아니라, 물질적인 뇌가 작동하는 방식이 완전히 이해되면 과학에서 "데몬"이라는 개념이 엄밀히 기계적인 설명으로 환원되기보다 단순히 제거된 것과 똑같이 제거될 개념이라는 견해이다. 원래의 의도성(또한 "의미", "내용", "의미론적 성격"으로도 불림)과 같은 다른 정신적 속성들 또한 일반적으로 신념 및 다른 명제 태도들과 관련된 특별한 속성들로 간주된다. 제거적 유물론은 신념이나 욕구와 같은 명제 태도들, 그리고 내용을 가진 다른 의도적 정신 상태들은 존재하지 않는다고 주장한다. 만약 제거적 유물론이 인간 인지에 대한 올바른 과학적 설명이라면, "마음은 정신적 내용(의미론)을 가진다"는 중국어 방 논증의 가정은 거부되어야 한다.

존 설은 이러한 분석에 동의하지 않으며, "마음의 연구는 온도조절기, 전화기, 가산기는 믿음을 갖지 않는 반면 인간은 믿음을 갖는다는 사실에서 시작된다... 우리가 알고 싶은 것은 무엇이 마음을 온도조절기나 간과 구별해 주는가이다"라고 주장한다. 그는 의식의 존재를 탐지할 수 있다는 것을 당연하게 여기며 이러한 응답들을 요점에서 벗어난 것으로 일축한다.

 기타 응답 
마거릿 보든은 자신의 논문 "중국어 방에서 탈출하기"(Escaping from the Chinese Room)에서 방 안의 사람이 중국어를 이해하지 못한다고 하더라도 그것이 방 안에 이해가 없음을 의미하지는 않는다고 주장했다. 방 안의 사람은 적어도 출력 응답을 제공하는 데 사용되는 지침서를 이해한다. 그녀는 같은 원리가 기계어에도 적용된다고 지적한다. 자연어 문장은 그것을 인스턴스화하는 프로그래밍 언어 코드에 의해 이해되며, 이는 다시 하위 레벨의 컴파일러 코드에 의해 이해되는 식이다. 이는 존 설이 전제하는 통사론과 의미론의 구분이 고정된 것이 아니라 상대적임을 시사한다. 자연어의 의미론은 프로그래밍 언어의 통사론에서 실현되며, 프로그래밍 언어의 의미론은 컴파일러 코드의 통사론에서 실현되는 의미론을 갖는다. 보든은 이해에는 서로 다른 단계들이 있으며 그것이 이분법적인 개념이 아니라고 주장한다.

 탄소 쇼비니즘 
"인간의 정신 현상은 실제 인간 뇌의 실제 물리적-화학적 특성에 의존한다"는 존 설의 결론은 때때로 "탄소 쇼비니즘"의 한 형태로 묘사되어 왔다. 스티븐 핑커는 그 결론에 대한 한 가지 대응으로 회의론이 반대 방향으로 작용하는 중국어 방에 대한 반대 사고 실험을 만드는 것을 제안했다. 그는 어떤 전자적 존재들로 구성된 외계 종족이 지구를 발견하고는 인간의 고기 뇌가 의식과 사고를 경험할 수 있다는 사실에 불신을 표하는 단편 소설 "They're Made Out of Meat"를 예로 든다.

그러나 존 설 자신은 자신이 탄소 쇼비니스트라는 점을 부인했다. 그는 "나는 오직 우리 뇌와 같은 생물학적 기반의 시스템만이 생각할 수 있다는 것을 보여주려고 시도한 것이 아니다... 나는 이 문제를 누구에게나 열려 있는 것으로 간주한다"고 말했다. 그는 만약 실리콘의 실제 물리적-화학적 특성이 의식과 사고를 생성하는 방식으로 사용될 수 있다면 실리콘 기계도 이론적으로 인간과 같은 의식과 사고를 가질 수 있지만, "뇌가 어떻게 하는지 알기 전까지 우리는 그것을 인공적으로 시도할 위치에 있지 않다"고 말했다.

 같이 보기 
 중국인 체육관
 계산주의
 강한 인공 지능

 각주 
내용주

참조주

 참고문헌 


  Also available at 





  Page numbers refer to the PDF of the article.






  Page numbers refer to the PDF of the article.
  Page numbers refer to the PDF of the article.


  Page numbers refer to the PDF of the article.



















 . Reprinted in .
  Page numbers refer to the PDF of the article. See also Searle's original draft.










  Page numbers refer to the PDF of the article.


  Page numbers refer to the PDF of the article.


분류:인공지능
분류:사고 실험
분류:철학적 논증
분류:심리철학에 관한 사고 실험
분류:기술철학