같은 항암제인데 왜 여성에 부작용 더 많을까 ▶ 인공지능, 치료약물, 로봇 등 신기술과 제품들은 많은 연구개발 단계를 거쳐 탄생한다. 생명의학의 과학 지식도 마찬가지다. 그런데 연구개발에서 남녀 성별 차이가 균형 있게 연구되지 않는다면, 그 결과물은 성과 젠더 차이를 담지 못하고 한쪽에 편향될 수 있다. 이런 편향을 줄이기 위해 과학기술에 젠더 감수성을 높이자는 ‘젠더혁신’ 프로젝트가 한창 펼쳐지고 있다. 젠더혁신 연구자들의 연구사례들을 들여다본다. 사람의 편견 없이 인재를 자동으로 찾아낸다고 해 화제가 된 아마존의 ‘채용 인공지능’. 하지만 이 인공지능은 뜻밖에 ‘여성을 싫어하는’ 성향을 드러내 논란에 휩싸였다. 인공지능을 개발하는 데 쓴 학습용 데이터가 대부분 남성 구직자의 지원서였고, 그 데이터로 학습한 인공지능이 남성에게 우호적인 경향을 보인 것이다. 아마존은 내부적으로 개발하던 채용 인공지능 프로젝트를 중단했다고 지난해 10월 글로벌 통신사 <로이터>가 보도했다. 얼굴을 자동으로 인식한다는 인공지능에서도 편향 문제가 지적됐다. 백인 남성 얼굴 이미지가 많이 포함된 데이터로 학습하며 패턴 인식의 지능을 갖춰 이 인공지능은 백인 남성 얼굴을 상당히 정확하게 가려냈다. 하지만 흑인 여성의 얼굴은 제대로 인식하지 못해 35%나 인식 오류를 일으켰다. (2018년 국제학술지 <기계학습연구회보>) 인공지능마저 젠더와 인종에 대해 편견과 편향을 지니고 있었던 것이다. 인공지능이 프로기사 이세돌을 누른 2016년 ‘알파고 쇼크’ 이후, 인공지능 기술은 질병 진단, 건강 관리, 개인 비서, 채용 자동화 같은 다양한 분야에서 빠르게 새로운 영역을 개척하고 있다. 하지만 중립적이며 객관적인 판단을 할 것으로 기대되던 인공지능의 일부 기능에 편향 또는 편견이 담길 수 있다는 분석과 경고도 함께 이어지고 있다. 인공지능이 학습용으로 쓰는 인간사회의 빅데이터에 이미 편향이 있고 개발자들이 짜는 알고리즘에도 무의식적으로 편향이 스며들 수 있기 때문이다. 문제는 이런 편향이 인공지능이라는 분야에서만 나타나는 것이 아니라는 점이다. 인공지능 외에 의약품, 로봇, 자동차, 환경 등 다양한 과학기술 분야에서 남성 중심 편향이 나타난다는 문제 제기가 활발해지고 있다. ‘젠더혁신 과학기술’의 필요성이 제기되고 있는 이유다. ‘쓰레기를 넣으면 쓰레기가 나온다’ “아마존 인공지능 사례는 젠더편향 문제가 인공지능 기술이 풀어야 할 새롭고 중요한 과제임을 드러냈죠. 어떤 기준으로 인재를 뽑을지, 그런 가치를 알고리즘에 어떻게 반영할지, 그리고 인공지능의 학습 단계에 어떤 데이터를 어떻게 보정해 쓸지 등의 문제가 쟁점이 되고 있습니다.” 지난달 28일 이른 아침, 조찬을 겸해 서울시내 한 식당에서 열린 ‘인공지능과 젠더 연구회’의 출범 모임에서 이혜숙(이화여대 수학과 명예교수) 젠더혁신연구센터 수석연구원은 “편향을 될수록 줄여 더 좋은 인공지능을 만들기 위해서도 젠더편향의 사례와 개선방법을 찾아가는 노력이 필요하다”고 강조했다. 인공지능의 젠더편향은 근래 들어 외국에서 뜨거운 이슈가 되고 있다. 미국 매사추세츠공대(MIT) 연구원 조이 부올라미니는 2015년 얼굴인식 인공지능이 흑인 여성인 자신의 얼굴을 제대로 인식하지 못한다는 사실에 충격을 받고 인공지능의 편향 문제를 본격적으로 연구하기 시작했다. 지난 2월 미국 시사주간지 <타임>에 기고한 글에서 그는 “우리는 종종 기계는 중립적이라고 생각하지만 실제로 그렇지는 않다”며 여러 거대기업의 인공지능 기술에 녹아 있는 편향 문제를 지적했다. 그는 얼굴인식 인공지능의 오류율이 백인 남성에선 1%도 안 되지만 흑인 여성에선 35%에 달한다는 실증분석 결과를 내어 주목을 받은 바 있다. 그는 ‘알고리즘정의연맹’(AJL)이라는 단체를 만들어 활동하고 있다. 컴퓨터와 데이터 과학 분야에선 이와 관련해 널리 쓰이는 문장 하나가 있다. ‘쓰레기를 넣으면 쓰레기가 나온다’(Garbage In, Garbage Out). 현실 인간사회의 여러 편향이 담긴 빅데이터라면, 그것을 보정 없이 그대로 기계학습에 이용한 인공지능에서는 자연스럽게 젠더나 인종 편향이 생겨날 수밖에 없다는 것이다. 이날 모임 참석자 5명은 인공지능의 학습용 데이터 문제만이 아니라 대부분 남성인 개발자들이 설계하는 알고리즘 자체의 문제점, 그리고 더 중요하게는 이런 데이터와