산드라 바흐터

산드라 바흐터(Sandra Wachter)는 오스트리아 출신의 법학자이자 옥스퍼드 대학교 옥스퍼드 인터넷 연구소에서 '기술과 규제' 교수로 활동하며, 하소 플라트너 연구소(Hasso Plattner Institute)의 훔볼트(인공지능) 교수로도 재직하는 인공지능·데이터 윤리·알고리즘 규제 전문가이다. 그녀는 '합리적 추론권'과 '반사실적 설명'을 통해 자동화된 의사결정의 설명가능성과 책임성을 높이는 규범·절차를 제시한 연구로 알려져 있다.

 생애 
바흐터는 오스트리아에서 성장하여 빈 대학교에서 법학을 공부하였고, 2009년 LL.M.을 마친 뒤 오스트리아 보건부 법률자문으로 근무하였다. 이후 기술·지식재산·민주주의를 주제로 박사학위를 취득하고 영국으로 건너가 앨런 튜링 연구소 연구 펠로를 거쳐 옥스퍼드 인터넷 연구소에 합류하였다. 2024년 알렉산더 폰 훔볼트 재단의 인공지능 분야 훔볼트 교수로 선정되었고, 2025년 베를린에서 공식 시상식이 열렸다.

 학문적 관점과 연구 방법 
바흐터의 연구는 데이터 보호, 설명가능한 AI, 프로파일링과 추론, 차별금지와 공정성 측정 등 규범·법학·기술을 결합한 문제에 초점을 둔다. 그는 일반 데이터 보호 규정(GDPR)의 문언과 실제 적용 사이의 간극을 분석하여, '설명권'의 법적 지위와 한계를 엄밀히 해석하고 실무적 대안을 제시하였다.

 '합리적 추론권' 제안 
바흐터와 브렌트 미텔슈타트는 개인에 대한 데이터 기반 '추론' 자체를 통제·다툴 수 있어야 한다는 '합리적 추론권'을 제안하여, 데이터 평가 단계의 권리 보강을 주장하였다. 이 구상은 기업의 마케팅·신용평가·채용 알고리즘이 생성한 특성 추정·행동 예측 등에 대해 당사자가 설명과 시정을 요구할 수 있도록 법정책의 초점을 '입력'에서 '평가'로 이동시키는 틀을 제공한다.

 반사실적 설명과 설명가능성 
바흐터·미텔슈타트·러셀은 '반사실적 설명'을 제시하여 "무엇이 달랐다면 결과가 달라졌는가"를 알려줌으로써 상업상 비밀을 노출하지 않고도 의미있는 설명을 제공할 수 있음을 보였다. 해당 접근은 구글의 'What-If Tool'(TensorBoard) 등에서 대화형 점검 기능과 함께 구현되어 모델 판별 경계와 변수 민감도를 직관적으로 탐색할 수 있게 하였다. 과학저널 '사이언스'의 질의응답에서도 그는 "설명요구가 영업비밀을 침해하지 않도록 반사실적 정보로 균형을 잡을 수 있다"고 논증하였다.

 알고리즘 공정성과 CDD 
바흐터·미텔슈타트·러셀은 유럽 차별금지법이 요구하는 '맥락의존적' 판단과 통계적 공정성 지표 간 괴리를 지적하고, '조건부 인구집단 격차'(CDD)를 표준 입증틀로 제안하였다. 이 제안은 튜링연구소 연차보고·아마존 사이언스 등의 기술 문서에서 바이어스 측정의 실무 기준으로 인용되었다.

 데이터 보호와 규제 관점 
그는 GDPR의 통지·접근 중심 설계가 데이터 '평가' 단계의 통제에는 미흡하다고 지적하고, 평가 단계의 설명·이의제기 수단을 법·정책으로 보완할 것을 제시하였다. 또한 플랫폼 규제·프로파일링·감정·안면인식의 위험과 한계를 연결해 설명가능성·감사가능성을 제도화할 필요성을 강조하였다.

 정책 자문 및 제도 참여 
바흐터는 정부·기업·국제기구 자문에 참여했고, EU '자율주행 윤리 가이드라인' 전문가 그룹(EC High-Level Expert Group on Ethics of Connected and Automated Vehicles) 구성원으로 활동했다.

 경력 
 2009: 오스트리아 보건부 법률자문.
 2016: 앨런 튜링 연구소 연구 펠로.
 2017–2018: 옥스퍼드 인터넷 연구소 박사후연구원.
 2018–2019: 옥스퍼드 인터넷 연구소 리서치 펠로(선임 포함).
 2019–2022: 옥스퍼드 인터넷 연구소 부교수.
 2022– : 옥스퍼드 인터넷 연구소 '기술과 규제' 교수.
 2025– : 하소 플라트너 연구소 훔볼트(인공지능) 교수.

 수상 
 2025: 알렉산더 폰 훔볼트 교수상(인공지능).
 2021: O²RB Excellence in Impact Awards(ESRC IAA).
 2019: Privacy Law Scholars Conference Junior Scholars Award.
 2017: CognitionX AI Superhero Award(윤리).

 주요 논문 
 산드라 바흐터; 브렌트 미텔슈타트; 루치아노 플로리디 (2017), 「자동화된 의사결정의 '설명권'은 GDPR에 존재하지 않는다 / Why a Right to Explanation of Automated Decision-Making Does Not Exist in the GDPR」, International Data Privacy Law 7(2): 76–99, .: 이 논문은 GDPR 조항을 원문·체계해석으로 검토해 일반적 '설명권'이 법전에 명시되지 않았음을 보인다. 대신 정보주체의 '접근권'과 '알 권리'가 제공하는 의미있는 정보가 실무 기준임을 제시한다. 영업비밀과 기술적 한계를 고려한 설명가능성의 범위를 재설계할 필요가 있음을 설명한다. 자동결정 조항(제22조)의 구조적 모호성과 그 보호범위를 사례로 분석한다. 결과적으로 설명가능성은 절차·감사·구제의 결합으로 달성되어야 함을 주장한다.
 산드라 바흐터; 브렌트 미텔슈타트; 크리스 러셀 (2018), 「블랙박스를 열지 않고 제공하는 반사실적 설명 / Counterfactual Explanations Without Opening the Black Box」, Harvard Journal of Law & Technology 31(2): 841–887, doi:10.2139/ssrn.3063289.: 이 논문은 "만약 X가 Y였다면 결과는 달랐다"는 형식의 반사실을 사용해 개인에게 이해가능한 설명을 제공하는 절차를 제시한다. 모델 내부 구조 공개 없이도 책임성과 시정을 가능하게 하는 점을 수학적·법적 근거로 제시한다. 대출·채용 등 고위험 도메인에 즉시 적용 가능한 지침을 제공한다. GDPR과의 합치성, 권리구제의 연결방식을 검토한다. 복잡한 모델에서도 지역적 민감도 기반 반사실 도출이 가능함을 보인다.
 산드라 바흐터; 브렌트 미텔슈타트 (2019), 「합리적 추론권: 빅데이터와 AI 시대의 데이터보호법 재구상 / A Right to Reasonable Inferences: Re-Thinking Data Protection Law in the Age of Big Data and AI」, Columbia Business Law Review 2019(2): 494–620, doi:10.7916/d8-g10s-ka92.: 이 논문은 데이터 '입력'이 아니라 '평가·추론' 단계에서의 권리 공백을 지적한다. 개인이 자신에 대한 예측·추정에 대해 설명·시정을 요구할 수 있는 권리틀을 설계한다. 광고·신용·보험 등 추론경제에서의 위험과 책무를 체계적으로 분류한다. 법적 근거와 정책수단(감사, 영향평가, 금지·허용기준)을 제안한다. 실제 규제설계 시 균형을 위한 비례성 원칙을 강조한다.
 산드라 바흐터 (2020), 「친화성 프로파일링과 연상에 의한 차별 / Affinity Profiling and Discrimination by Association in Online Behavioural Advertising」, Berkeley Technology Law Journal 35(2): 369–430, doi:10.15779/Z38JS9H82M.: 이 논문은 관심사 유사성 기반 타기팅이 민감정보 추론과 집단연상을 통해 차별을 야기할 수 있음을 분석한다. 개인정보·차별금지·소비자보호의 교차영역에서 규범 충돌을 정리한다. 입증 부담을 낮추는 절차와 사업자의 주의의무를 제안한다. 플랫폼 광고 인프라의 구조적 위험을 데이터 흐름 단위로 설명한다. 정책적 처방으로 투명성·감사·금지행위 목록화를 제시한다.
 산드라 바흐터; 브렌트 미텔슈타트; 크리스 러셀 (2021), 「왜 공정성은 자동화될 수 없는가 / Why Fairness Cannot Be Automated: Bridging the Gap Between EU Non-Discrimination Law and AI」, Computer Law & Security Review 41: 105567, doi:10.1016/j.clsr.2020.105567.: 이 논문은 법원이 요구하는 증거·맥락과 통계적 공정성 지표 사이의 불일치를 지적한다. 그 결과 자동화된 공정성 테스트만으로는 합법성 판단에 충분치 않음을 보인다. CDD라는 기준선을 제안해 사건평가의 절차적 정합성을 확보한다. 의료·고용 등 도메인별 적용 지침을 제공한다. 정책 입안·감독·표준화의 역할분담을 제안한다.

 연표 

 각주 

 외부 링크 
 Google Scholar 프로필
 X(트위터) 공식 계정

분류:오스트리아의 법학자
분류:영국의 법학자
분류:옥스퍼드 대학교 교수
분류:옥스퍼드 대학교 동문
분류:살아있는 사람