기술적 특이점
비판 > 강한 인공지능을 통한 특이점 비판 > 드라이퓌스의 인공지능 비판

휴버트 드라이퓌스는 인공지능을 포함한 인지과학의 주제와 관련하여 연구하고 있는 대표적인 인공지능 비판 철학자이다. 특히 그의 <컴퓨터가 할 수 없는 것>은 인공지능 분야에서 많은 논쟁을 불러 일으켰는데, 여기서 그는 후설의 현상학과 이를 계승한 하이데거의 실존주의적 현상학의 논의에 기반한 비판적 시각을 토대로 인공지능의 기본적인 전제들과 전문가 시스템에 대한 비판을 수행한다. 또한 인공지능을 퇴행성 연구 프로그램이라고 전폭적으로 부정하는 태도를 취했으며, 결국 컴퓨터가 궁극적으로 인간처럼 생각할 수 없으리라 주장하고 인공지능 연구는 완전한 성공을 거둘 수 없으리라 예측한다.
인공지능이 인간의 기호 조작의 형식을 모방하는 컴퓨터 프로그램을 제시함으로써 시작되었으나, 휴버트 드라이퓌스는 이 초기 연구를 중요하지 않은 것으로 평가한다. 1970년대에 이르러 소규모 세계에 관한 연구들이 어느 정도 성공하자 이 분야의 박사학위논문, 잡지, 심포지엄, 단행본 등이 급증했고 마빈 민스키와 같은 학자들은 인공지능을 창조하는 문제가 한 세대 안에 해결될 것으로 낙천적인 예측을 했다. 그러나, 그는 '어린아이의 이야기 이해 프로그램', '상식적 지식의 정식화', '인간이해에 있어서 이미지와 프로토타이프' 등의 문제에서 예상했던 것보다 훨씬 더 큰 난관에 봉착했다고 평가한다.
휴버트 드라이퓌스는 인간의 행위는 인공지능 연구자들이 말하는 것처럼 형식화될 수 없으며 행위는 그것이 속한 맥락 안에서만 의미를 가지며, 따라서 일상에서의 행위를 맥락으로부터 떼어내어 객관화, 형식화시킨다는 것은 불가능하다고 말한다. 이러한 현상학적 시각에 기반하여 그는 인공지능이 왜 궁극적으로 불가능한지의 이유를 구체적으로 제시한다. 그 이유는 다음과 같다.
기계는 신체를 갖고 있지 않다. : 휴버트 드라이퓌스는 신체를 갖는 인간과 신체를 갖지 않은 기계의 차이는 '숙련적 지식'에서 극명하게 드러난다고 말한다. 그는 인간은 어떤 규칙에 의존하여 숙련적 행위를 하는 것이 아니라고 주장한다.
숙련에 대해 중요한 사실은 과학이 숙련적 행위를 규칙에 의해 서술할 것을 요청함에도 불구하고 이러한 규칙은 (숙련된) 행위를 산출하는데 결코 개입될 필요가 없다는 것이다.
즉, 우리가 숙련적 행위를 규칙으로 묘사할 수 있다고 할지라도 실제로 우리가 숙련적 행위를 할 때에는 규칙을 사용하지 않는다는 것을 의미한다.
기계는 상황지워지지(situated) 않았다.
우리는 경험 영역에서 중요한 내용들에 몰두할 수 있다. 왜냐하면 이 영역은 우리에게 모호하지 않고 우리의 이해관계와 우리의 능력에 의해 만들어지기 때문이다. ... 우리는 우리의 이해관계를 통해 이 영역을 창조하기 때문에 오직 가능하게 적절한 사실들만이 나타날 수 있다. 즉, 적절함은 이미 만들어져 있다.
인간은 자신의 목적과 관심을 통해 이미 구조화된 세계에서 살고 있으므로 무엇을 선택하고 무시해야 하는지를 이미 알고 있다는 것을 의미한다. 인간이 적절하게 행위할 수 있는 이유는 바로 이처럼 상황에 처해있기 때문이다. 하지만 기계는 인간과 같이 상황에 처해져 있는 존재가 아니다. 그는 바로 이러한 이유로 컴퓨터는 무엇이 적절한지에 대해 판단을 내릴 수 없다고 지적하고, 따라서 인간의 지적 활동을 모의할 수 없다고 주장한다.
기계는 인간과 같은 욕구를 갖고 있지 않다. : 휴버트 드라이퓌스는 기계에 목적을 입력하는 것과 인간이 욕구를 가지는 것은 전혀 다른 종류의 문제라고 지적한다. 기계의 목적은 문제의 해결을 위한 것이며, 일단 문제가 해결되면 목적이 해야할 역할은 더 이상 없다. 하지만 인간의 욕구는 단지 만족하는 데에서 그치지 않는다. 그는 인간의 욕구는 지속적 명확화를 통해 변화하는 것이라고 주장한다.
그는 인간의 욕구가 기계의 목적과 달리 끊임없이 변화한다는 점을 강조한다. 변화하는 인간의 욕구는 기계의 목적처럼 사전에 목록으로 저장할 수 없다고 말하며 결국 컴퓨터가 인간처럼 사고할 수 없는 이유는 바로 컴퓨터가 끊임없이 변화하는 인간의 욕구를 고정된 사실과 규칙으로 표현할 수 없다는 데 있다고 주장한다. 결국, 그는 인공지능 연구가 아무리 발전한다고 할지라도 인간의 세계 이해를 컴퓨터는 결코 모의할 수 없다고 주장한다.
휴버트 드라이퓌스는 표현불가능한 배경규범이나 지식을 논거로 하여, 컴퓨터가 인간과 같은 지적 행동을 할 수 없다는 근거를 제시할 뿐 아니라, 이를 다시금 입증하기 위해 인간의 기술습득의 5단계를 제시한다. 이 논거는 소크라테스 이래로 오늘날 전문가 시스템(expert system)의 사상에 이르기까지 2000여 년 동안 서구 철학을 지배해온 인식 근거에 대한 도전이기도 하다. 그는 "컴퓨터는 전문가의 일을 결코 할 수 없다"는 견해를 밝히기 위해 <기술 습득의 5단계.>를 구분하고 각 단계의 특성을 상세히 지적한다.
기술습득의 1단계 : 1단계의 사람은 완전 초보자(novice)로 호칭된다. 완전 초보자는 대체로 이 분야의 경험이 없으므로 가르침을 통해 기술을 습득하게 되는데, 마치 컴퓨터가 프로그램에 따라 작동하듯이, 기술에 적합한 객관적 사실들과 특성들을 배우고 무엇을 어떻게 해야 한다는 규칙들을 익힌다. 완전 초보자의 심리 과정은 분명한 규칙들과 맥락자유의 요소들만을 고려하므로 디지털 컴퓨터가 쉽게 모방할 수 있다.
2단계는 상급 초보자(advanced beginner)의 단계이다. 실제 상황에 맞는 경험을 어느 정도 얻었기 때문에 그는 그 상황에 추가되어야 할 의미있는 요인들의 뚜렷한 사례들을 기록한다. 구체적 사례들로부터 상황 의존적인 특성들을 배우는 능력은 사람에게는 쉬우나 컴퓨터에게는 불가능한 것으로 평가된다.
3단계는 유능한 실행자(competence)로 지적된다. 경험이 증가됨에 따라 구체적 상황들에서 나타나는 특성과 관점, 의사결정의 절차를 배운다. 유능한 실행자는 계획을 선택하기 위해 고심한 후에 행위를 하므로, 그 선택의 결과에 대해서도 정서적으로 느끼는 바가 있고 개인적으로 책임을 느끼게 된다. 그리하여 성공한 것들은 생생히 기억하고 실패한 것들도 쉽게 잊을 수 없다.
4단계는 숙련 기술자(proficient)의 차례이다. 초보자들은 단순히 규칙들만을 따르고 유능한 실행자는 각종 대안들을 음미한 연후에 성취할 목표와 계획을 의식적으로 선택한다. 그러나 능숙한 기술자는 대체로 그의 과제에 몰두해 있으며 근래에 사태를 다루어온 결과로 얻은 특정한 시각을 갖고서 과제를 관찰한다.
끝으로 전문가(expert)의 단계이다. 전문가는 상황적인 이해가 마음에 솟구칠 뿐 아니라 적절한 행위들도 연상한다. 전문가는 고장났을 경우를 제외하고는 절차에 대해 의식적으로 알려고 하지 않고도 이해하고 행동하며 결과들로부터 배운다.
과연 인공지능은 어디까지 나아가 있으며, 인공지능은 과연 신체화된 인간의 능력을 넘어설 수 있는가, 손쉬운 예로 인터넷의 검색 시스템에서 인공지능이 어느 정도 효과를 발휘할 수 있는가를 정보 검색과 하이퍼링크를 논하면서 인공지능의 현실적 가능성을 검토한다. 현재까지의 연구에서 인공지능은 결코 신체에 기반하는 인간의 상식을 이해할 수 없으며, 어떤 알고리즘 과정도 신체화된 인간의 모든 것을 재생할 수는 없다. 하나의 예로서 그는 정보검색체계가 인간의 상식을 얼마나 잘 이해할 수 있는가를 든다. 예를 들면 조지 워싱턴이 몇년도에 국회의사당에 있었다는 말에서 신체를 가진 우리는 조지 워싱턴의 왼발이나 오른 발도 그 때 국회에 있었다는 것을 알지만, 컴퓨터는 우리가 그것을 입력해주지 않는 이상 이를 인식하지 못한다. 그리고 그가 예컨대 40년에 죽었다는 표현은 41년, 42년에도 계속 죽어 있는 것이라는 것, 이런 것들은 너무나 명확해서 조직화할 필요도 없는 것이지만, 컴퓨터는 이를 인식하지 못한다. 또 하나의 예로 컴퓨터가 “휴식”이라는 말을 인식하도록 만들기 위해 우리는 휴식과 관련된 모든 개별적 상황을 입력해주어야 한다. 따라서 정보 검색 체계에 신체화된 우리의 상식을 모두 입력하는 것은 거의 불가능에 가깝다. 이는 인간의 신체, 관련성을 인지하고, 분류하는 인간이 배제된다면, 그 모든 것은 불가능하다는 것을 의미한다. 그에 의하면 언어를 이해하기 위해서는 광범위한 상식적 배경 지식이 전제되어야 한다. 하지만, 인지과학은 모든 지식이 우리 두뇌 속에서 표상으로 부호화될 수 있다고 주장한다. 하지만 상식적 배경지식은 이런식으로 부호화될 수 없다.
그는 컴퓨터가 기계론적으로 가지는 지적 기능은 인간 기능 획득의 초기 단계에서는 인간의 지적 기능보다 우수할 수도 있지만 5단계 이후는 결코 도달할 수 없다고 말하고 있다. 인간과 컴퓨터의 이러한 기능 차이는 어디에서 유래하는가? 그것을 그는 메를로 퐁티를 따라 신체라고 주장한다. 즉 인간을 지식 기계와 구분 짓는 것은 이성적 판단을 내릴 수 있는 인간의 정신이 아니라, 상황적이고 물질적 신체이며 신체화된 존재만이 교육에서 몰입을 가속화시키고, 강의실 분위기를 공유할 수 있으며 필요한 견습을 가능하게 한다. 그러나 현실에서 수반되는 견습과 모방의 필요성, 몰입, 현존이 없다면, 우리는 기능을 획득할 수 없다고 말한다.
휴버트 드라이퓌스는 <기술 습득의 5단계>를 통해 '전문가의 전문성이 반드시 추론을 포함한다'는 전통적인 생각이 잘못되었다고 지적한다. 이 논지는 현대 인공지능에서 전문가 시스템의 지식 공학을 설계하는 자들이 그런 편견에 사로잡혀 있다는 말이다. 누구든지 자기의 기술을 충분히 설명할 수 있다고 생각하는 사람은 전문가적인 이해를 하지 못한 것이므로, 이런 의미에서 전문가와 같은 전문가 시스템의 설계는 불가능하며, 즉 이는 전문가 시스템을 구성하려는 인공지능이 성공할 수 없다는 휴버트 드라이퓌스의 주장이다.