[유레카] 인공지능의 플루토늄 ‘얼굴인식’ / 구본권 샌프란시스코시는 최근 행정기관의 얼굴인식 기술 사용을 금지하는 조례를 제정했다. 미국 주요 도시 최초의 법규다. 숱한 정보기술 기업들의 터전이자 주 경쟁무대인 실리콘밸리의 도시가 인공지능의 핵심 분야로 각광받는 기술을 강력한 규제 대상으로 정한 것이다. 얼굴인식은 보안과 결제 시스템의 본인 확인 도구로 쓰이고 있으며, 이미지 인식은 자율주행차, 검색, 드론 경쟁의 판도를 바꿀 핵심 기술이다. 테러리즘과 신종 범죄 우려 속에서 각국 출입국 당국과 사법당국은 얼굴인식 기술 활용을 늘리고 있다. 조지타운대 프라이버시기술센터가 16일 공개한 얼굴인식 관련 보고서 2건엔 기술의 위험성이 생생하다. 시카고와 디트로이트 등은 시 곳곳의 감시카메라를 범죄자 사진 데이터베이스와 연결해 감시시스템을 구축했지만 적절성을 감독할 수 있는 투명성이 없다. 중국은 기차역 등 공공시설에 설치한 2억대의 폐쇄회로 카메라(CCTV)와 인공지능을 이용해 14억 시민을 감시하는 하이테크 감시국가다. 고해상도 카메라와 인공지능 머신러닝의 얼굴인식은 수만 관중 속에서도 친구를 찾아주는 편리함이 있지만 조지 오웰의 와 같은 파놉티콘 사회를 부른다. 페이스북은 20억 넘는 이용자가 올린 무수한 사진에서 내 얼굴을 귀신같이 찾아낸 뒤 태깅을 요청한다. 미국·한국 등과 달리 독일 등 유럽국가는 페이스북의 얼굴인식 기능을 프라이버시 침해를 이유로 허용하지 않는다. 마이크로소프트 리서치의 연구원 루크 스타크는 지난달 “얼굴인식 기능이 인종과 성별을 기반으로 사람을 도식화하고 분류한다는 점에서, 극복 불가능한 결함을 지닌 기술”이라며 ‘인공지능의 플루토늄’이라고 주장했다. 얼굴인식 기술은 핵폐기물처럼 위험성이 편리함을 넘어선다며, 의도성 여부를 떠나서 본질적으로 유해한 기술이라는 얘기다. 이미지 인식 기술 경쟁에서 얼굴 인식만 예외로 하자는 약속은 핵개발 금지처럼 지켜지기 어려운 과제다. 그러나 핵무기가 나왔다고 해서 핵의 위험성을 인지하고 관리해야 할 필요성이 줄어드는 것은 아니다. 파괴적 인공지능 기술 또한 불가피함 속에서 시민적 통제의 길을 찾아야 할 요구가 커지고 있다.