stanford-oval/wikipedia huggingface dataset:
포틀랜드 팀버스 (2001년)

이 문서는 1986년부터 2010년까지 USSF 디비전 2 프로패셔널 리그에 참가했던 클럽에 관한 것입니다. 다른 뜻에 대해서는 포틀랜드 팀버스 (1975년) 문서를 참고하십시오.
이 문서는 1986년부터 2010년까지 USSF 디비전 2 프로패셔널 리그에 참가했던 클럽에 관한 것입니다. 다른 뜻에 대해서는 포틀랜드 팀버스 문서를 참고하십시오.
포틀랜드 팀버스(Portland Timbers)는 USSF 디비전 2 프로패셔널 리그에 소속된 미국의 프로축구단으로 오리건주 포틀랜드을 연고지로 하고 있으며 PGE 파크를 홈 경기장으로 사용하고 있다. 2001년부터 2010년까지 리그 참가했다.한국인선수는정의찬이다
선수 명단 > 역대

분류:포틀랜드 팀버스 (2001년)의 축구 선수  문서를 참고하십시오.
| v t eUSSF 디비전 2 프로페셔널 리그(2010년) |
| --- | --- |
USL 콘퍼런스:  오스틴 아즈텍 FC  NSC 미네소타 스타즈  포틀랜드 팀버스  푸에르토리코 아일랜더스  로체스터 라이노스  FC 탬파베이 
NASL 콘퍼런스:  캐롤라이나 레일호크스  크리스털 팰리스 볼티모어  마이애미 FC  몬트리올 임팩트  AC 세인트루이스  밴쿠버 화이트캡스 FC
대통령의 AIDS 긴급 구호 계획

PEPFAR의 로고
에이즈 구호를 위한 미국 대통령의 AIDS 긴급 구호 계획(United States President's Emergency Plan For AIDS Relief, PEPFAR)은 HIV/AIDS 전염병을 해결하고 감염된 사람들이 사망하지 않게 하기 위한 미국 정부의 계획이다. 2003년 조지 W. 부시 미국 대통령이 출범시켰으며, 2020년 5월 HIV/AIDS 치료, 예방 및 연구를 위해 누적 900억 달러를 제공하여 단일 대상에 초점을 맞춘 건강 프로그램이 되었다. PEPFAR는 50개 이상의 국가에 있는 미국 정부 기관의 조합에 의해 활동하며, 미 국무부의 글로벌 에이즈 코디네이터가 감독 및 관리한다. 2019년 9월에 PEPFAR는 사하라 이남 아프리카에서 진행되어 1,900만명 이상의 생명을 구한 것으로 알려졌다.
역사

PEPFAR은 조지 W. 부시 대통령과 그의 아내인 로라 부시의 에이즈 예방과 아프리카의 에이즈에 대한 관심으로 시작되었다. 2010년 희고록 결정의 순간들에 따르면 두 사람은 1990년 알렉스 헤일리의 《뿌리》를 읽고 감비아에 다녀온 후 아프리카의 에이즈에 관심을 갖게 되었다. 1998년 조지 W. 부시가 대선 출마를 고민하던 중, 후에 국무장관이 되는 콘돌리자 라이스와 아프리카의 에이즈에 대해 논의했다. 그녀는 조지 W. 부시가 당선된다면 아프리카의 국가들과 더 긴밀하게 협력하는 것이 중요한 정책이 돼야 한다 말했다. 또한 그녀는 후에 그에게 HIV/AIDS가 아프리카의 핵심 문제이지만 미국은 전염병 억제를 위한 명확한 전략 없이 6개 연방 기관에 돈을 주고, 전 세계 에이즈에 연간 5억 달러만 지출하고 있다고 말했다.
2003년에 HIV/AIDS, 결핵, 말라리아에 대한 미국 리더십법(Global AIDS, Global AIDS Act)은 일련의 광범위하고 구체적인 목표를 지정했으며, 교대로 일부 영역에서 측정 가능한 결과를 식별하고 법률로 지정하는 권한을 대통령에게 위임했다. 또한 이 법안은 모든 국제 에이즈 자금 및 프로그램을 감독하기 위해 국무부 글로벌 에이즈 코디네이터를 설립했다.
2014년 4월 4일 데보라 벅스 대사는 국무부 글로벌 에이즈 코디네이터에 취임했으며, 그녀는 이 직위를 2021년 1월까지 유지했다.
주요 국가

PEPFAR가 법률로 제정되었을 때 HIV/AIDS 유병률이 높고 자원이 부족한 15개 국가가 대부분의 자금을 받도록 지정되었다. 15개의 국가는 보츠와나, 코트디부아르, 에티오피아, 가이아나, 아이티, 케냐, 모잠비크, 나미비아, 나이지리아, 르완다, 남아프리카 공화국, 탄자니아, 우간다, 베트남, 잠비아이었다. 계획을 위한 150억 달러는 이러한 주요 국가에 사용되었으며, 40억 달러는 HIV/AIDS 연구에, 나머지 10억 달러는 글로벌 핀드에 기부되었다.
관리 기관 > 글로벌 에이즈 코디네이터 사무실

미국 국무부에 속한 글로벌 에이즈 코디네이터 사무실은 PEPFAR의 시행을 감독하고 HIV/AIDS에 대한 미국의 글로벌 대응과 관련된 다양한 기관 간의 의견을 조정한다. 또한 계획의 필수적인 관리를 하고 감독의 국가 지도자와 정책 토론에 참여한다.
관리 기관 > 미국 국제 개발청

독립적인 연방 기관인 USAID는 국무장관으로부터 전반적인 외교 정책 지침을 받고 민간 해외 원조를 관리하는 기관이다. USAID는 50개국에서 다른 지역 프로그램을 통해 거의 100개국에서 PEPFAR 프로그램의 구현을 지원한다.
관리 기관 > 미국 보건복지부

보건복지부(HHS)는 질병 통제 예방 센터(CDC), 국립 보건원(NIH), 보건 자원 및 서비스 관리국(HRSA), 식품 의약청(FDA), 약물 남용 및 정신 건강 서비스 관리국(SAMHSA) 등을 통해 PEPFAR 자금을 지원하는 예방, 치료 및 관리 프로그램을 시행한다.
관리 기관 > 질병 통제 예방 센터

질병 통제 예방 센터는 PEPFAR 자금을 사용하여 GAP(Global AIDS Program)를 구현에 지원한다. GAP는 PEPFAR를 구현하는 USG 팀의 일원인 29개국의 고도로 훈련된 의사, 전염병학자, 공중 보건 고문, 행동 과학자 및 실험실 과학자와 협력하고, 감독 정부, 보건부, NGO, 국제 기구, 미국 기반 대학 및 민간 부문과의 파트너십을 통해 GAP는 HIV 예방, 치료 및 관리를 지원한다.
관리 기관 > 국방부

국방부(DoD)는 감독 군대 및 민간 커뮤니티에서 HIV/AIDS 예방, 치료, 관리, 전략적 정보, 인적 능력 개발 및 프로그램, 정책 개발 등의 PEPFAR 프로그램을 구현하도록 지원한다.
관리 기관 > 상무부

상무부(DoC)는 민관 파트너십을 통해 민간 부문 참여를 촉진함으로써 PEPFAR에 기여한다.
관리 기관 > 노동부

노동부(DoL)는 HIV/AIDS 관련 낙인 및 차별의 예방 및 감소에 중점을 둔 PEPFAR 프로젝트를 시행한다.
시행 프로그램 > 예방

전염병 확산을 늦추기 위해 PEPFAR는 다양한 예방 프로그램을 지원한다. 프로그램에는 모자간 전염 예방, 주삿 바늘 예방, 등이 있다. 에이즈 예방을 위해 PEPFAR 예산의 권장 20%를 예방에 사용하고 나머지 80%는 관리 및 치료, 실험실 지원, 항레트로바이러스 약제, TB/HIV 서비스, 고아 및 취약 아동(OVC) 지원, 기반 시설에 사용했다. 2008년 PEPFAR는 재승인이 되기 위해 금욕 프로그램에 대한 요구 사항을 포함하여 예방 노력에 대한 20% 권장 사항을 제거했다.
시행 프로그램 > 치료

항레트로바이러스 약제를 제공하는 것 외에도 기회 감염의 예방 및 치료, 말라리아, 결핵, 수인성 질병 및 기타 급성 감염의 예방 및 치료 서비스를 지원한다. 또한 교육 및 급여, 의료 시설의 개조 및 개조, 최신화된 실험실 장비 및 유통 시스템, 물류 및 관리를 지원한다. 이는 해당 국가에서 PEPFAR 서비스의 지속 가능성을 보장하여 HIV/AIDS 관리를 가능하게 하기 위한 것이다.
PEPFAR 지원 치료 및 치료 서비스는 다양한 미국 및 국제 기관에서 시행된다. 지원 기관에는 하버드 대학, 콜롬비아 대학의 국제 에이즈 치료 및 치료 프로그램 센터(ICAP), 엘리자베스 글레이저 소아 에이즈 재단(EGPAF), 가톨릭 구호 서비스의 AIDS 구호 협회 등이 있다.
시행 프로그램 > 관리

이미 에이즈에 감염된 사람들을 위해 HIV 상담, 재정적 안정 유지를 위한 돈을 제공하며, 고아 및 취약 아동(OVC)에 대한 특별 관리가 제공되고 여성 및 소녀의 고유한 요구에 맞는 서비스가 제공된다. 마지막으로 에이즈의 사회 낙인을 없애기 위해 국가, 지도자, 종교 등과 긴밀하게 협력한다.
결과

PEPFAR의 결과 또는 진행한 일들은 다음과 같다.
미국에서 510만명이 넘는 사람들이 항레트로바이러스 약제 치료를 받았다.
세계에서 1,100만명이 넘는 임산부가 HIV 검사와 상담을 받았다.
어머니와 자식과의 전염을 적게 하기 위해 항레트로바이러스 약제를 지원해 23만명의 어린이가 어머니의 HIV에 감염되지 않고 태어났다.
HIV로 인한 1,500만명의 고아들을 지원했다.
200만명의 남성 포경 수술을 위해 지원했다.
4,650만 명 이상의 HIV 검사 및 상담을 직접 지원하여 치료, 예방 및 관리를 위한 중요한 진입점을 제공했으며, 미국은 에이즈, 결핵, 말라리아 퇴치를 위한 글로벌 기금의 최초이자 최대 기부국이 되었다.
현재 치료를 받고 있는 저소득 및 중소득 국가의 약 800만 개인 중 거의 680만 명이 PEPFAR 양자 프로그램, 글로벌 펀드 또는 모두를 통해 지원을 받고 있다.
자금 조달

PEPFAR는 매년 의회에 보고하며 법에서 요구하는 프로그램 및 재무 데이터를 제공하며, 공식 웹사이트에서 확인 할 수 있다. 2013년에 버락 오바마 대통령은 64억 2000만 달러를 요청했으며, 이 중 HIV/AIDS 프로그램에 45억 4000만 달러, 글로벌 기금에 16억 5000만 달러 자금 조달을 요청했다. 또한 PEPFAR은 멕시코시티 정책(en)에서 제외되었다.
비판

PEPFAR에 대한 일부 비평가들은 2006-2008년 예방 지출의 3분의 1이 결혼할 때까지 금욕 프로그램 및 모든 자금 지원 조직이라는 점에서 비판했다. 이 비판가들은 PEPFAR 기금을 받는 모든 조직이 일부 활동가가 맹세 서약과 비교하는 성매매를 명시적으로 반대하는 정책을 가질 것을 요구했다. 많은 에이즈 조직은 그러한 정책이 성노동자들의 HIV 감염률을 줄이려는 노력을 소외시킬 것이라고 이야기했다.
2013년 미국 대법원은 국제 개발 기구, 오픈 소사이어티 인터내셔널 주식회사가 강제 발언에 대한 수정 헌법 제1조의 금지 조항을 위반했다고 판결했다. 또한 2015년 제19회 레트로바이러스 및 기회 감염 회의에서 발표된 연구에 따르면 미국 정부가 사하라 이남 아프리카에서 금욕을 장려하는 프로그램에 지출한 13억 달러는 큰 영향을 미치지 않은 것으로 밝혀졌다.
또한 PEPFAR는 HIV 확산 방지에 효과적인 것으로 널리 알려진 주삿 바늘 공유 금지 프로젝트를 진행하지 않은 것으로 밝혀지기도 하였다.
2011년 6월 25일, 보건복지부 검찰관은 질병통제예방센터(CDC)의 PEPFAR 기금 관리를 비판하는 보고서를 발표했다. "우리의 검토에 따르면 CDC가 부서 및 기타 연방 요구 사항에 따라 수령인의 기금 사용을 항상 확인하지 않는 것으로 밝혀졌다."라고 쓰여 있던 보고서를 발표하였다. 그리고 2012년 11월 19일, OIG는 CDC 나미비아 사무소의 PEPFAR 수령인의 기금 사용을 확인하지 않음을 비판하는 보고서를 발표했다.
같이 보기

무역 관련 지식재산권에 관한 협정
아프리카의 국가별 기대수명
남아프리카 공화국의 에이즈 전염 안정화를 보여주는 그래프
알고리즘 편향

추천 시스템이 결정을 내리는 과정을 보여주는 순서도, 2001년 무렵
알고리즘 편향(영어: algorithmic bias)은  알고리즘이 원래 의도한 기능과는 다르게 한 범주를 다른 범주보다 "특혜"를 주는 등 "불공정"한 결과를 만드는 컴퓨터 시스템의 체계적이고 반복 가능한 오류를 말한다.
편향은 알고리즘의 설계, 의도하지 않았거나 예상치 못한 사용, 또는 알고리즘을 훈련시키기 위해 데이터를 코딩, 수집, 선택, 사용하는 방식과 관련된 결정을 포함한 그밖의 다양한 요인으로 인해 발생할 수 있다. 검색 엔진 결과와 소셜 미디어 플랫폼 등에서 알고리즘 편향이 관찰되었다. 이러한 편향은 의도치 않은 개인정보 침해부터 인종, 성별, 젠더, 민족성에 대한 사회적 편견 강화에 이르기까지 다양한 영향을 미칠 수 있다. 알고리즘 편향에 대한 연구는 "체계적이고 불공정한" 차별을 반영하는 알고리즘에 가장 큰 관심을 두고 있다. 이러한 편향은 최근에 와서야 유럽연합의 "일반 데이터 보호 규정"(2018) 및 제안된 "인공지능법"(2021)과 같은 법적 틀에서 다루어지고 있다.
알고리즘이 사회, 정치, 제도 및 행동을 조직하는 능력을 확장함에 따라 사회학자들은 예상치 못한 데이터의 출력과 조작이 실제 세계에 어떤 영향을 미칠 수 있는지에 대해 관심을 갖게 되었다. 알고리즘은 종종 중립적이고 편견이 없는 것으로 간주되기 때문에 (부분적으로는 자동화 편향이라는 심리적 현상으로 인해) 인간의 전문 지식보다 더 큰 권위를 부정확하게 투영할 수 있으며, 경우에 따라 알고리즘에 대한 의존이 결과에 대한 인간의 책임을 대체할 수 있다. 편향은 기존의 문화적, 사회적 또는 제도적 기대의 결과로 알고리즘에 유입될 수 있다. 알고리즘 설계의 기술적 한계, 또는 예상치 못한 상황에서의 사용, 소프트웨어의 초기 설계에서 고려되지 않은 잠재 고객의 사용 등도 원인이 될 수 있다.
알고리즘 편향은 선거 결과에서 온라인 혐오 발언의 확산에 이르기까지 다양한 사례에서 언급되었다. 또한 형사 사법, 의료, 채용 분야에서도 알고리즘 편향이 발생하여 기존의 인종적, 사회경제적, 성별 편견을 더욱 심화시키고 있다. 불균형한 학습 데이터세트 때문에 얼굴 인식 기술이 상대적으로 어두운 피부색의 얼굴을 정확하게 식별하지 못하는 현상은 여러 건의 흑인 남성의 부당한 체포와 관련이 있다. 일반적으로 영업 비밀로 취급되는 알고리즘의 독점적 특성으로 인해 알고리즘 편향을 이해하고, 연구하고, 발견하는 데 지속적으로 문제가 되고 있다. 완전한 투명성이 제공되더라도 특정 알고리즘의 복잡성은 그 기능을 이해하는 데 장애가 될 수 있다. 또한 알고리즘은 분석을 위해 예상하거나 쉽게 재현할 수 없는 방식으로 변경되거나 입력 또는 출력에 응답할 수 있다. 단일 웹사이트나 애플리케이션 내에서도 조사해야 할 단일 "알고리즘"이 없으며, 동일한 서비스 사용자 간에도 상호 관련된 많은 프로그램과 데이터 입력으로 구성된 네트워크가 존재하는 경우가 많다.
정의

알고리즘은 정의하기 어렵지만, 일반적으로 프로그램이 데이터를 읽고, 수집하고, 처리하고, 분석하여 출력을 생성하는 방법을 결정하는 명령 목록으로 이해할 수 있다.:13 컴퓨터 하드웨어의 발전으로 데이터를 처리, 저장히거 전송하는 능력이 향상되었다. 이에 따라 기계 학습 및 인공지능과 같은 기술의 설계와 채택이 활발해졌다.:14–15 데이터를 분석하고 처리함으로써 알고리즘은 검색 엔진, 소셜 미디어 웹사이트, 추천 엔진, 온라인 리테일, 온라인 광고 등의 핵심이 된다.
현대 사회과학자들은 하드웨어 및 소프트웨어 애플리케이션에 내장된 알고리즘 프로세스가 정치적, 사회적으로 미치는 영향에 관심을 갖고 알고리즘의 중립성에 대한 근본적인 가정에 의문을 제기한다.:2:563:294 "알고리즘 편향"이라는 용어는 임의의 사용자 그룹에 다른 사용자 그룹보다 특혜를 부여하는 등 불공정한 결과를 초래하는 체계적이고 반복 가능한 오류를 말한다. 예를 들어, 신용 점수 알고리즘은 관련 재무 기준을 일관되게 평가하는 경우 불공정하지 않게 대출을 거부할 수 있다. 알고리즘이 한 사용자 그룹에는 대출을 추천하지만 거의 동일한 다른 사용자 그룹에는 관련 없는 기준에 따라 대출을 거부하는 경우, 그리고 이러한 행동이 여러 번 반복될 수 있는 경우 알고리즘이 편향된 것으로 설명할 수 있다.:332 이러한 편향은 의도적이거나 의도적이지 않을 수 있다.
방법

편향은 여러 방법으로 알고리즘에 도입될 수 있다. 데이터세트를 수집하는 동안 사람이 설계한 카탈로그 작성 기준에 따라 데이터를 수집, 디지털화, 조정 및 데이터베이스에 입력할 수 있다.:3 다음으로 프로그래머는 프로그램에서 데이터를 평가하고 분류하는 방법에 대한 우선순위 또는 계층을 할당한다. 이를 위해서는 데이터를 분류하는 방법과 어떤 데이터를 포함하거나 폐기할 것인지에 대한 사람의 결정이 필요하다.:4 일부 알고리즘은 사람이 선택한 기준에 따라 자체 데이터를 수집하며, 이는 인간 설계자의 편향을 반영할 수도 있다.:8 다른 알고리즘은, 예를 들어 유사한 사용자 또는 사용자 그룹의 이전 선택에 따라 정보를 선택하는 방식으로. 인간 사용자와 "연관된" 데이터를 처리할 때 고정관념과 선호도를 강화할 수 있다.:6
데이터를 수집하고 처리하는 것 외에도 설계의 결과로 편향성이 나타날 수 있다. 예를 들어, (학교 배정 결정 같은) 자원 할당이나 조사를 결정하는 알고리즘은 유사한 사용자를 기반으로 위험을 결정할 때 (신용 점수에서와 같이) 의도치 않게 특정 범주를 차별할 수 있다.:36 한편, 사용자를 유사한 사용자와 연결하여 작동하거나 추론된 마케팅 특성을 이용하는 추천 엔진은 광범위한 민족, 성별, 사회경제적 또는 인종적 고정관념을 반영하는 부정확한 연관성에 의존할 수 있다. 또 다른 예는 결과에 포함할 항목과 제외할 항목에 대한 기준을 결정하는 데서 생긴다. 이러한 기준은 후원하는 항공사의 비행 경로를 따르지 않는 항공편을 생략하는 항공편 추천 소프트웨어와 같이 검색 결과에 예상치 못한 결과를 제시할 수 있다. 또한 알고리즘은 불확실성 편향을 표시하여 더 큰 데이터세트를 사용할 수 있을 때 더 확신있는 평가를 제공할 수 있다. 이는 알고리즘 프로세스를 더 큰 표본과 더 밀접하게 일치하는 결과로 왜곡할 수 있으며, 이는 덜 대표되는 모집단의 데이터를 무시할 수 있다.:4
역사 > 초기 비평

초기의 컴퓨터 프로그램은 인간의 추론과 연역을 모방하도록 설계되었으며, 이러한 인간의 논리를 성공적으로 일관되게 재현할 때 제대로 작동하는 것으로 간주되었다. 인공지능의 선구자인 요제프 바이첸바움은 1976년 저서 '컴퓨터의 힘과 인간의 이성(Computer Power and Human Reason)'에서 편향성이 프로그램에 사용된 데이터 뿐만 아니라 프로그램이 코딩되는 방식에서도 발생할 수 있다고 제안했다.:149
바이첸바움은 프로그램은 컴퓨터가 따라야 할 인간이 만든 일련의 규칙이라고 썼다. 이러한 규칙을 일관되게 따름으로써 이러한 프로그램은 "규칙을 구현"한다.:40 즉, 문제를 해결하기 위한 특정 방법을 시행한다. 컴퓨터가 따르는 규칙은 이러한 문제를 해결하는 방법에 대한 컴퓨터 프로그래머의 가정을 기반으로 한다. 즉, 코드에는 편견과 기대를 포함하여 세계가 어떻게 작동하는지에 대한 프로그래머의 상상력이 포함될 수 있다.:109 바이첸바움은 컴퓨터 프로그램이 이러한 방식으로 편견을 통합할 수 있지만, 또한 기계에 공급되는 모든 데이터는 데이터가 선택될 때 "인간의 의사 결정 과정"을 추가로 반영한다고 언급했다.:70, 105
마지막으로 그는 사용자가 결과를 해석하는 방법을 잘 모를 경우 기계가 의도하지 않은 결과로 좋은 정보를 전달할 수도 있다고 지적했다.:65 바이첸바움은 사용자가 이해하지 못하는 컴퓨터 프로그램의 결정을 신뢰하는 것에 대해 경고했는데, 이를 동전 던지기 결과만 가지고 왼쪽이나 오른쪽으로 돌면서 호텔 방으로 가는 길을 찾으려는 관광객과 비교했다. 결정적으로, 관광객은 목적지에 어떻게 또는 왜 도착했는지 이해할 근거가 없으며, 성공적으로 도착했다고 해서 그 과정이 정확하거나 신뢰할 수 있다는 것을 의미하지는 않는다.:226
알고리즘 편향의 초기 사례로 1982년부터 1986년까지 세인트 조지 의과대학에서 60 여명의 여성과 소수 민족이  입학을 거부당한 경우가 있는데, 이는 과거 입학 경향에 따라 "외국어로 들리는 이름"을 가진 여성과 남성의 입학을 거부하는 새로운 컴퓨터 안내 평가 시스템을 도입했기 때문이다. 당시 많은 학교가 선발 과정에서 유사한 편향을 사용했지만 세인트 조지 대학교는 알고리즘을 사용하여 이러한 편향을 자동화한 것으로 알려져 훨씬 더 많은 사람들의 관심을 끌었다.
최근에는 실제 데이터에 기계 학습 기법을 사용하는 알고리즘이 늘어나면서 데이터에 존재하는 편향성으로 인해 알고리즘 편향이 더 자주 발견될 수 있다.
역사 > 현대의 비평과 대응

잘 설계된 알고리즘은 종종 인간의 결정과 동등하거나 그 이상의 공평한 결과를 결정하지만, 편향성인 사례는 여전히 발생하며 예측 및 분석이 어렵다. 알고리즘 편향성 분석의 복잡성은 프로그램과 그 설계의 복잡성과 함께 증가해 왔다. 한 명의 설계자 또는 설계자 팀이 내린 결정은 단일 프로그램을 위해 작성된 많은 코드 조각들로 가려질 수 있으며, 시간이 지남에 따라 이러한 결정과 프로그램 출력에 대한 총체적 영향은 잊혀질 수 있다.:115 이론적으로 이러한 편향은 코드가 사회의 다른 요소와 상호 작용할 때 특정 기술과 관련하여 새로운 행동 패턴, 즉 "대본"을 만들 수 있다. 편향은 알고리즘이 요구하는 데이터 포인트를 중심으로 사회가 어떻게 형성되는지에도 영향을 미칠 수 있다. 예를 들어, 데이터에 특정 지역에서 체포 건수가 많은 것으로 나타나면 알고리즘은 해당 지역에 더 많은 경찰 순찰을 배정하여 더 많은 체포로 이어질 수 있다.:180
알고리즘 프로그램의 결정은 알고리즘이 돕고자 하는 인간의 결정보다 더 권위 있는 것으로 간주될 수 있으며,:15 이 과정을 저자 클레이 셔키는 "알고리즘 권위"(algorithmic authority)라고 설명했다. 셔키는 이 용어를 사용하여 검색 결과와 같이 "다양하고 신뢰할 수 없는 출처에서 가치를 추출하는 관리되지 않는 프로세스를 권위있는 것으로 간주하는 결정"을 설명했다. 이러한 중립성은 결과가 대중에게 공개 될 때 전문가와 언론이 사용하는 언어로 인해 잘못 표현될 수도 있다. 예를 들어, "경향" 또는 "인기"로 표시되는 뉴스 항목 목록은 단순한 인기도보다 훨씬 더 광범위한 기준에 따라 작성될 수 있다.:14
알고리즘은 그 편리함과 권위 때문에 인간으로부터 책임을 위임하는 수단으로 이론화된다.:16:6 이는 대안, 타협 또는 유연성을 감소시키는 효과를 가져올 수 있다.:16 사회학자 스콧 래시는 알고리즘이 실제 목적을 달성하기 위한 가상의 수단이라는 점에서 알고리즘을 새로운 형태의 '생성적 권력'이라고 비판했다. 이전에는 인간의 행동이 수집하고 연구할 데이터를 생성했다면, 강력한 알고리즘이 점점 더 인간의 행동을 형성하고 정의할 수 있게 되었다.:71
알고리즘이 사회에 미치는 영향에 대한 우려로 인해 구글과 마이크로소프트와 같은 조직에서 기계 학습의 공정성, 책임성, 투명성이라는 이름의 워킹 그룹을 공동으로 만들었다.:115 구글의 아이디어에는 알고리즘의 결과를 순찰하고 부정적인 결과를 초래할 수 있다고 판단되는 결과를 제어하거나 제한하기 위해 투표하는 커뮤니티 그룹이 포함되었다.:117 최근 몇 년 동안 알고리즘의 공정성, 책임성 및 투명성(Fairness, Accountability, and Transparency; FAT)에 대한 연구는 FAccT라는 연례 회의를 통해 자체 학제 간 연구 영역으로 부상했다. 비평가들은 많은 사람들이 연구중인 시스템을 구축하는 기업으로부터 자금을 지원받을 때 FAT 이니셔티브가 독립적인 감시자 역할을 효과적으로 수행 할 수 없다고 제안했다.
종류 > 기존 편향

알고리즘의 기존 편향은 근본적인 사회적 및 제도적 이데올로기의 결과이다. 이러한 아이디어는 개별 설계자나 프로그래머에게 개인적 편향에 영향을 미치거나 만들 수 있다. 이러한 편향은 명시적이고 의식적일 수도 있고, 암묵적이고 무의식적일 수도 있다.:334:294 잘못 선택된 입력 데이터 또는 단순히 편향된 출처의 데이터는 기계에 의해 생성된 결과에 영향을 미친다.:17 기존의 편향을 소프트웨어로 인코딩하면 사회적 및 제도적 편향을 보존할 수 있으며, 수정 없이 해당 알고리즘의 향후 모든 사용에 복제될 수 있다.:116:8
이러한 형태의 편향의 예로는 1981년 영국 국적법 이후 새로운 영국 시민에 대한 평가를 자동화하기 위해 설계된 영국 국적법 프로그램이 있다.:341 이 프로그램은 "남자는 자신의 합법적인 자녀에게만 아버지이고, 여자는 합법적이든 아니든 자신의 모든 자녀의 어머니"라는 법의 원칙을 정확하게 반영한다.:341:375 특정 논리를 알고리즘 프로세스로 옮기려는 시도에서 프로그램은 영국 국적법의 논리를 알고리즘에 새겨 넣었으며, 이 논리는 결국 법률이 폐지되더라도 영구적으로 남을 것이다.:342
"레이블 선택 편향"이라고 불리는 또 다른 편향의 원인은 특정 그룹에 대한 편견을 구축하는 알고리즘을 훈련하는 데 대리 척도를 사용할 때 발생한다. 예를 들어, 널리 사용되는 알고리즘은 의료 수요에 대한 대용으로 의료 비용을 예측하고, 이 예측을 사용하여 복잡한 의료 소유가 있는 환자를 돕기 위한 자원을 할당했다. 이로 인해 흑인 환자는 백인 환자만큼 건강하지 않더라도 더 적은 의료 비용을 사용하기 때문에 편향이 발생했다. "레이블 선택 편향"에 대한 해결책은 (알고리즘이 예측하는) 실제 목표를 (연구자들이 예즉하기를 원하는) 이상적인 목표에 더 가깝게 일치시키는 것을 목표로 기 때문에, 이전 예에서 연구자는 의료 비용을 예측하는 대신에 훨씬 더 중요한 의료 요구라는 변수에 초점을 맞출 것이다. 목표를 조정한 결과 프로그램이 선정한 흑인 환자 수가 거의 두 배로 증가했다.
종류 > 기계 학습 편향

기계 학습 편향이란 기계 학습 알고리즘의 결과물에 체계적이고 불공정한 불균형이 발생하는 것을 말한다. 이러한 편향은 다양한 방식으로 나타날 수 있으며 알고리즘을 학습시키는 데 사용되는 데이터를 반영하는 경우가 많다. 다음은 몇 가지 주요 측면이다:
종류 > 기계 학습 편향 > 언어 편향

언어 편향은 질의 언어와 관련된 통계적 샘플링 편향의 한 유형으로, "샘플링 정보의 체계적인 편차로 인해 저장소에서 사용 가능한 주제와 견해의 실제 범위를 정확하게 나타내지 못하게 하는 것"을 말한다. Luo 등의 연구에 따르면 현재의 대규모 언어 모델은 주로 영어 데이터에 대해 학습되기 때문에 종종 영미권의 관점을 진실로 제시하면서 비영어권의 관점은 관련성이 없거나 잘못되거나 잡음으로 체계적으로 경시하는 것으로 나타났다. "자유주의란 무엇인가요?"와 같은 정치 이데올로기로 질문했을 때, 영어 중심의 데이터로 학습된 ChatGPT는 영미권의 관점에서 자유주의를 설명하며 인권과 평등의 측면을 강조하는 반면, 베트남의 지배적인 관점에서 "개인 및 경제 생활에 대한 국가 개입 반대"와 중국의 지배적인 관점에서 "정부 권력의 제한"과 같은 똑같이 타당한 측면은 빠져 있다.
종류 > 기계 학습 편향 > 성별 편향

성별 편향은 이러한 모형이 특정 성별에 대해 부당하게 편견이 있는 결과를 산출하는 경향을 말한다. 이러한 편향은 일반적으로 이러한 모델이 학습된 데이터에서 발생한다. 예를 들어, 대규모 언어 모델은 종종 전통적인 성별 규범에 따라 역할과 특성을 할당하기 때문에 간호사나 비서는 주로 여성, 엔지니어나 CEO는 남성과 연관시킬 수 있다.
종류 > 기계 학습 편향 > 고정관념 편향

이러한 모형은 성별과 인종 외에도 연령, 국적, 종교, 직업 등 다양한 고정관념을 강화할 수 있다. 이로 인해 특정 집단을 부당하게 일반화하거나 때로는 해롭거나 경멸적인 방식으로 풍자하는 결과물이 나올 수 있다.
종류 > 기계 학습 편향 > 정치적 편향

정치적 편향이란 알고리즘이 특정 정치적 관점, 이념 또는 결과를 다른 것보다 체계적으로 선호하는 경향을 말한다. 언어 모델도 정치적 편향을 보일 수 있다. 학습 데이터에는 다양한 정치적 의견과 범위가 포함되어 있기 때문에 데이터에서 이러한 견해가 얼마나 널리 퍼져 있는지에 따라 모델이 특정 정치적 이념이나 관점에 치우친 응답을 생성할 수 있다.
종류 > 기술적 제약

기술적 편향은 프로그램, 계산 능력, 설계 또는 그 밖의 시스템의 제약으로 인해 발생한다.:332 이러한 편향은 설계 상의 제약일 수도 있다. 예를 들어 한 화면에 3개의 결과를 표시하는 검색 엔진은 항공사 가격 표시에서 상위 3개의 결과를 다음 3개보다 약간 더 우선시하는 것으로 이해될 수 있다.:336 또 다른 사례는 결과의 공정한 분배를 위해 무작위성에 의존하는 소프트웨어이이다. 난수 생성 방식이 살제로 무작위가 아닌 경우, 예를 들어 목록의 끝이나 시작 부분에 있는 항목으로 선택이 치우침으로써 편향을 유발할 수 있다.:332
탈맥락화 알고리즘은 관련 없는 정보를 사용하여 결과를 정렬한다. 예를 들어 알파벳 순서로 결과를 정렬하는 항공권 가격 알고리즘은 유나이티드 항공(United Airlines)보다 아메리칸 항공(American Airlines)에 유리하도록 편향될 수 있다.:332 반대의 경우로, 결과가 수집된 맥락과 다른 맥락에서 평가되는 경우에도 적용될 수 있다. 예를 들어, 감시 카메라에서 얼굴 인식 소프트웨어를 사용하지만 다른 국가나 지역의 원격 직원이 평가하거나 카메라 시야 밖에서 일어나는 일을 인식하지 못하는 비인간 알고리즘에 의해 평가되는 등 중요한 외부 맥락 없이 데이터가 수집될 수 있다. 이로 인해 범죄 현장에 대한 불완전한 이해를 만들 수 있다. 예를 들어 지나가는 행인을 범죄를 저지른 사람으로 오인할 가능성이 있다.:574
마지막으로, 기술적 편향은 인간의 행동이 동일한 방식으로 작동한다는 가정 하에 의사 결정을 구체적인 단계로 공식화하려고 시도함으로써 발생할 수 있다.:332 예를 들어, 소프트웨어는 배심원의 감정에 미치는 영향을 무시한 채, 피고가 형량 협상을 받아들여야 하는지 여부를 결정하기 위해 데이터 포인트에 가중치를 부여한다. 이러한 형태의 편향의 또 다른 의도하지 않은 결과는 학생이 작성한 텍스트를 온라인에서 찾은 정보와 비교하여 학생의 작품이 표절되었을 확률 점수를 반환하는 표절 탐지 소프트웨어 Turnitin에서 발견되었다. 이 소프트웨어는 긴 텍스트 문자열을 비교하기 때문에 원어민보다 영어가 모국어가 아닌 비원어민을 식별할 가능성이 더 높다. 원어민의 경우, 개별 단어를 변경하거나 표절된 텍스트 문자열을 분리하거나 동의어를 통해 복사된 구절을 모호하게 만들 수 있기 때문이다. 소프트웨어의 기술적 제약으로 인해 원어민은 탐지를 회피하기가 더 쉽기 때문에 Turnitin이 영어가 모국어가 이난 외국인의 표절을 식별하는 동시에 더 많은 원어민이 탐지를 회피하는 시나리오가 만들어진다.:21–22
종류 > 창발적

창발 편향은 새롭거나 예상치 못한 상황에서 알고리즘을 사용하고 의존한 결과이다.:334 알고리즘이 신약이나 의학적 혁신, 새로운 법률, 비즈니스 모델 또는 변화하는 문화적 규범과 같은 새로운 형태의 지식을 고려하도록 조정되지 않았을 수 있다.:334,336 누가 그들의 배제에 대한 책임이 있는지 이해하기 위한 명확한 개요를 제공하지 않고 기술을 통해 특정 집단을 배제할 수 있다.:179:294 마찬가지로, 학습 데이터(특정 결론을 모델링하기 위해 기계에 "공급"되는 샘플)가 알고리즘이 실제 세계에서 직면하는 맥락과 일치하지 않을 때 문제가 발생할 수 있다.
1990년, 미국 의대생을 레지던트로 배치하는 데 사용되는 소프트웨어인 "국립 레지던트 매치 프로그램(National Residency Match Program; NRMP)에서 창발 편향의 예가 확인되었다.:338 이 알고리즘은 부부가 함께 레지던트를 구하는 경우가 거의 없던 시절에 설계되었다. 더 많은 여성이 의과 대학에 입학함에 따라 더 많은 학생들이 그들의 파트너와 함께 레지던트를 신청할 가능성이 높았다. 절차에 따라 각 지원자는 미국 전역의 선호 배치 목록을 제공하도록 요구했으며, 병원과 지원자가 모두 배정에 동의하도록 분류 및 배정되었다. 둘 다 레지던트를 희망하는 부부의경우, 알고리즘은 높은 점수를 받은 파트너의 위치 선택에 가중치를 두었다. 그 결과 선호도가 높은 학교를 첫 번째 파트너에게, 선호도가 낮은 학교를 두 번째 파트너에게 배정되는 경우가 많았으며, 배치 선호도 타협을 위한 분류가 이루어지지 않았다.:338
그 외에도 창발 편향은 아래를 포함한다:
종류 > 창발적 > 상관관계

대규모 데이터 세트를 서로 비교할 때 예측할 수 없는 상관관계가 나타날 수 있다. 예를 들어, 웹 브라우징 패턴에 대해 수집된 데이터가 (예컨데 인종 또는 성적 취향 등의) 민감한 데이터를 나타내는 신호와 일치할 수 있다. 특정 행동이나 검색 패턴에 따라 선택하면 최종 효과는 직접적으로 인종 또는 성적 지향 데이터를 사용한 차별과 거의 동일할 것이다.:6 다른 경우에는 알고리즘이 상관관계를 이해하지 못한 채 상관관계를 통해 결론을 도출한다. 예를 들어, 한 분류 프로그램은 폐렴이 없는 천식 환자보다 폐렴이 있는 천식 환자에게 더 낮은 우선순위를 부여한다. 이 프로그램 알고리즘은 단순히 생존율을 비교했기 때문에 폐렴이 있는 천식 환자가 가장 위험하다고 판단했다. 역사적으로, 이와 같은 이유로 병원은 일반적으로 이러한 천식 환자에게 가장 즉각적인 최선의 치료를 제공한다.[모호한 표현]
종류 > 창발적 > 예상하지 못한 사용

예기치 못한 사용자가 알고리즘을 사용될 때 창발 편향이 발생할 수 있다. 예를 들어, 기계는 사용자가 숫자를 읽고, 쓰고, 이해할 수 있기를 요구하거나, 은유적인 인터페이스를 이해하지 못하는 것과 관련될 수 있다.:334 이러한 배제는 편향적이거나 배타적인 기술이 사회에 더욱 깊숙이 통합됨에 따라 더욱 심화될 수 있다.:179
배제와는 별개로, 예상치 못한 사용은 최종 사용자가 자신의 지식이 아닌 소프트웨어에 의존하여 예상치 못한 사용이 발생할 수 있다. 한 예로, 영국에서 컴퓨터 과학자와 이민 변호사가 영국 시민권에 대한 적합성을 평가하기 위해 개념 증명으로 영국 국적법 프로그램을 만들 때, 예상치 못한 사용자 그룹이 알고리즘 편향으로 이어진 사례가 있다. 소프트웨어와 이민법에 대한 이해도가 높지 않은 출입국 관리 사무소의 최종 사용자와는 달리, 설계자들은 이를 넘어서는 법률 전문 지식에 접근할 수 있었다. 질문을 관리하는 상담원들은 시민권을 취득할 수 있는 다른 경로를 배제한 채 전적으로 소프트웨어에만 의존했으며, 새로운 판례와 법률 해석으로 인해 알고리즘이 구식이 된 후에도 소프트웨어를 사용했다. 이민법에 대해 법적으로 잘 알고 있다고 가정한 사용자를 위해 알고리즘을 설계한 결과, 소프트웨어의 알고리즘은 간접적으로 영국 이민법의 보다 광범위한 기준이 아닌 알고리즘이 설정한 매우 좁은 법적 기준에 부합하는 신청자를 선호하는 편향된 결과로 이어졌다.:342
종류 > 창발적 > 피드백 루프

알고리즘을 위해 수집된 데이터가 실제 반응을 이끌어내고, 다시 알고리즘에 피드백되는 경우, 창발 편향은 피드백 루프 또는 재귀를 생성할 수 있다. 예를 들어, 미국 캘리포니아주 오클랜드에 배포된 예측 치안 소프트웨어(PredPol)의 시뮬레이션은 대중이 신고한 범죄 데이터를 기반으로 흑인 거주 지역에 경찰 배치를 증가시킬 것을 제안했다. 시뮬레이션은 대중이 경찰이 무엇을 하고 있는지에 상관없이 경찰차를 보고 범죄를 신고한 것으로 나타났다. 이 시뮬레이션은 범죄 예측을 모델링할 때 경찰차 목격을 해석했으며, 그 결과 해당 지역에 경찰이 더 많이 배치되는 것으로 나타났다. 시뮬레이션을 수행한 인권 데이터 분석 그룹은 인종 차별이 체포의 요인이 되는 지역에서 이러한 피드백 루프가 치안 유지에서 인종 차별을 강화하고 영속화할 수 있다고 경고했다. 이러한 행동을 보이는 알고리즘의 또 다른 잘 알려진 예로는 개인이 범죄자가 될 가능성을 판단하는 소프트웨어인 COMPAS가 있다. 이 소프트웨어는 흑인 개인을 다른 사람보다 범죄자로 분류할 가능성이 훨씬 높다는 비판을 받고 있으며, 개인이 범죄자로 등록될 경우 해당 데이터를 다시 피드백하여 알고리즘이 작동하는 데이터 세트에 의해 생성된 편견을 더욱 강화한다.
온라인 동영상이나 뉴스 기사를 추천하는 데 사용되는 것과 같은 추천 시스템은 피드백 루프를 생성할 수 있다. 사용자가 알고리즘이 추천하는 콘텐츠를 클릭하면 다음 추천 콘텐츠에 영향을 미친다. 시간이 지남에 따라 사용자가 필터 버블에 빠져 중요하거나 유용한 콘텐츠를 인식하지 못하게 될 수 있다.
영향 > 상업적 영향

알고리즘이 공정하다고 착각할 수 있는 사용자에 대해 알지 못하다면, 기업 알고리즘은 기업 간의 재무 약정이나 계약을 눈에 보이지 않게 선호하도록 왜곡될 수 있다. 예를 들어, 아메리칸 항공은 1980년대에 항공편 검색 알고리즘을 만들었다. 이 소프트웨어는 다양한 항공사의 다양한 항공편을 고객에게 제공했지만, 가격이나 편의성에 관계없이 자사 항공편의 선호도를 높이는 요소에 가중치를 두었다. 미국 의회 증언에서 아메리칸 항공의 사장은 우대 조치를 통해 경쟁 우위를 확보하려는 의도로 시스템이 만들어졌다고 솔직하게 밝혔다.:2:331
구글을 설명하는 1998년 논문에서 구글의 창립자들은 "광고의 지원을 받는 검색 엔진은 본질적으로 광고주에게 편향되고 소비자의 요구에서 벗어날 수 있다"고 주장하면서 유료 게제와 관련하여 검색 결과를 투명하게 공개하는 정책을 채택했다. 이러한 편향은 사용자에 대한 "보이지 않는" 조작이 될 것이다.:3
영향 > 투표 행동

미국과 인도의 부동층 유권자에 대한 일련의 연구에 따르면 검색 엔진 결과가 투표 결과를 약 20%까지 변화시킬 수 있는 것으로 나타났다. 연구자들은 의도가 있든 없든 알고리즘이 상대 후보의 검색 결과 순위를 높이면 다른 후보자들은 "경쟁할 수단이 없다"고 결론지었다. 투표와 관련된 메시지를 본 페이스북 사용자는 투표할 가능성이 더 높았다. 2010 년 페이스북 사용자를 대상으로 한 무작위 시험에 따르면 투표를 장려하는 메시지와 투표한 친구의 이미지를 본 사용자들 사이에서 투표율이 20% 증가(34 만 표)한 것으로 나타났다. 법학자 조너선 지트레인은 의도적으로 조작된 경우, 선거에서 "중개자가 사용자에게 서비스를 제공하는 것이 아니라, 의제를 충족시키기 위해 선택적으로 정보를 제시하는" "디지털 게리맨더링" 효과가 발샐할 수 있다고 경고했다.:335
영향 > 성차별

2016년, 전문 네트워킹 사이트 링크드인은 검색어에 대한 응답으로 여성 이름의 남성 변형 이름을 추천하는 것이 발견되었다. 이 사이트는 남성 이름을 검색할 때는 이와 유사한 추천을 하지 않았다. 예를 들어, "Andrea"(안드레아)를 검색하면 사용자가 "Andrew"(앤드류)를 의미하는지 묻는 메시지가 표시되었지만, "Andreww"를 검색하면 사용자가 "Andrea"를 찾는 것인지 묻지 않았다. 링크드인은 이것이 사용자들이 사이트와 상호 작용을 분석한 결과라고 말했다.
2012년에는 백화점 프랜차이즈 타깃이 여성 고객이 임신 사실을 알리지 않았더라도 임신 여부를 유추할 수 있는 데이터 포인트를 수집한 후 해당 정보를 마케팅 파트너와 공유한 사실이 알려졌다.:94 데이터가 직접 관찰되거나 보고된 것이 아니라 예측된 것이기 때문에 회사는 해당 고객의 개인정보를 보호할 법적 의무가 없었다.:98
웹 검색 알고리즘도 편향적이라는 비난을 받고 있다. 구글의 검색 결과는 "레즈비언"과 같은 성 관련 검색어에서 음란물 콘텐츠에 우선순위를 둘 수 있다. 이러한 편향성은 검색 엔진이 중립적인 검색에서 인기 있지만 성적인 콘텐츠를 표시하는 데까지 확장된다. 예를 들어, "여자 운동 선수"를 검색하면 "가장 섹시한 25명의 여자 운동 선수" 기사가 첫 페이지 결과로 표시된다.:31 2017년 구글은 혐오 단체, 인종 차별적 견해, 아동 학대 및 음란물, 기타 불쾌하고 모욕적인 콘텐츠를 노출하는 경우에 검색 결과를 조정했다. 다른 예로는 구직 웹사이트에서 남성 지원자에게 더 높은 임금을 주는 일자리를 보여주는 것이 있다. 연구자들은 또한 기계 번역이 남성 편향적인 경향을 보인다는 사실을 확인했다. 특히 STEM 직종을 포함하여 불균형한 성별 분포와 관련된 분야에서 이러한 현상이 관찰된다. 실제로 현재 기계 번역 시스템은 여성 근로자의 실제 분포를 재현하지 못한다.
2015년에 아마존닷컴은 여성에게 불리하게 편향되어 있다는 사실을 알고, 입사 지원서를 선별하기 위해 개발한 인공지능 시스템을 중단했다. 이 채용 도구는 모든 여자 대학을 다닌 지원자와 '여성'이라는 단어가 포함된 이력서를 제외했다. 음악 스트리밍 서비스에서도 비슷한 문제가 나타났는데, 2019년 스포티파이에서 사용하는 추천 시스템 알고리즘이 여성 아티스트에 대한 편향이 있는 것으로 밝혀졌다. 스포티파이의 노래 추천에서 여성 아티스트보다 남성 아티스트를 더 많이 추천했다.
영향 > 인종 및 민족 차별

알고리즘은 의사 결정에서 인종적 편견을 모호하게 하는 방법이라는 비판을 받아왔다.:158 과거에 특정 인종과 민족이 취급받아온 방식 때문에 데이터에는 종종 숨겨진 편견이 포함될 수 있다. 예를 들어, 흑인은 같은 범죄를 저지른 백인보다 더 긴 형량을 받을 가능성이 높다. 이는 잠재적으로 시스템이 데이터의 원래 편견을 증폭시킨다는 것을 의미할 수 있다.
2015년, 구글은 흑인 사용자가 사진 애플리케이션의 이미지 식별 알고리즘이 자신을 고릴라로 식별했다고 불평하자 사과했다. 2010년, 니콘 카메라는 이미지 인식 알고리즘이 아시아 사용자에게 계속해서 눈을 깜박이는지를 물어 비판을 받았다. 이러한 사례는 생체 인식 데이터 세트의 편향의 산물이다. 생체 인식 데이터는 관찰되거나 추론된 인종적 특징을 포함하여 신체 측면에서 추출되며, 다음 데이터 요소로 전송될 수 있다.:154 음성 인식 기술은 사용자의 억양에 따라 정확도가 다를 수 있다. 이는 해당 억양을 사용하는 화자에 대한 학습 데이터가 부족하기 때문일 수 있다.
인종에 대한 생체 인식 데이터도 관찰되지 않고 추론될 수도 있다. 예를 들어, 2012년 연구에 따르면, 일반적으로 흑인과 연관된 이름은 해당 개인의 이름에 대한 경찰 기록이 있는지 여부와 관계없이 체포 기록을 암시하는 검색 결과가 나올 가능성이 더 높았다. 또한 2015년 연구에 따르면, 인종 및 직업 노출 데이터가 예측 알고리즘의 폐 기능 모형에 통합되지 않아 흑인과 아시아인의 폐 기능이 더 떨어진다고 추정한다는 사실을 발견했다.
2019년 연구에 따르면, 옵텀(Optum)에서 판매하는 의료 알고리즘이 아픈 흑인 환자보다 백인 환자를 선호한다는 사실이 밝혀졌다. 이 알고리즘은 환자가 향후 의료 시스템에 얼마나 많은 비용을 지불할 것인지를 예측한다. 그러나 흑인 환자는 같은 수의 만성 질환을 앓고 있는 백인 환자보다 연간 약 1,800달러의 의료비를 덜 부담했기 때문에, 알고리즘은 백인 환자를 훨씬 더 많은 질병을 앓고 있는 흑인 환자와 향후 비슷한 건강 문제의 위험이 있는 것으로 점수를 매겼다.
2019년 11월 UC 버클리의 연구진이 실시한 연구에 따르면 모기지 알고리즘이 라틴계와 아프리카계 미국인을 차별하는 것으로 나타났는데, 이는 대출 기관이 개인이 대출을 받을 자격이 있는지 판단하기 위해 신원 확인 수단을 사용할 수 있도록 하는 미국 공정 대출법에 근거한 '신용도'에 따라 소수 민족을 차별한 것이다. 이러한 특정 알고리즘은 핀테크 회사에 존재하며 소수 민족을 차별하는 것으로 나타났다.
영향 > 인종 및 민족 차별 > 법 집행 및 법적 절차

알고리즘은 이미 법률 시스템에서 다양하게 활용되고 있다. 그 예로 미국 법원에서 피고인의 재범 가능성을 평가하는 데 널리 사용되는 상용 프로그램인 COMPAS를 들 수 있다. 프로퍼블리카는 흑인 피고인의 평균 COMPA 배정 재범 위험도가 백인 피고인보다 훨씬 높으며, 흑인 피고인이 백인 피고인에 비해 '고위험'이라는 꼬리표를 잘못 할당받을 가능성이 두 배나 높다고 주장했다.
한 가지 예가 미국의 형사 판결 및 가석방 심의 위원회에서 위험 평가를 사용하는 것이다. 판사는 수감자가 범죄를 반복할 위험을 반영하기 위해 알고리즘으로 생성된 점수를 제시받는다. 1920년부터 1970년까지 범죄자 아버지의 국적은 위험 평가 점수의 고려 대상이었다..:4 오늘날 이 점수는 애리조나, 콜로라도, 델라웨어, 켄터키주, 루이지애나, 오클라호마, 버지니아, 워싱턴, 위스콘신의 판사들에게 공유된다. 프로퍼블리카의 독립적인 조사에 따르면 이 점수는 80%가 부정확하며, 흑인이 백인보다 77% 더 자주 재발할 위험이 있다고 불균형적으로 왜곡되어 있는 것으로 나타났다.
"위험, 인종 및 재범 : 예측 편향 및 이질적인 영향"을 사하기 위해 시작된 한 연구에 따르면 2년의 관찰 기간 동안 객관적으로 문서화된 재범 기록이 없음에도 불구하고 흑인 피고인이 백인 피고인보다 더 높은 위험성을 지닌 것으로 잘못 분류될 가능성이 2배(45% 대 23%) 더 높다고 주장한다.
재판 전 구금 상황에서, 한 법률 리뷰 기사는 알고리즘 위험 평가가 안면 차별적이고, 불균등한 대우를 초래하며, 좁게 조정되지 않았다고 주장하며, 이 때문에 인종에 근거한 미국 수정 헌법 제14조 평등보호조항을 위반한다고 주장했다.
영향 > 인종 및 민족 차별 > 온라인 혐오 발언

2017년 페이스북 내부 문서에 따르면 온라인 혐오 발언을 제거하기 위해 설계된 페이스북 알고리즘이 불쾌한 콘텐츠를 평가할 때 흑인 어린이보다 백인 남성에게 유리하게 작용하는 것으로 나타났다. 컴퓨터 프로그램과 인간 콘텐츠 검토자의 조합으로 이루어진 이 알고리즘은 특정 하위 범주가 아닌 광범위한 범주를 보호하기 위해 만들어졌다. 예를 들어, "무슬림"을 비난하는 게시물은 차단되는 반면, "급진 무슬림"을 비난하는 게시물은 허용된다. 알고리즘의 예상치 못한 결과는 흑인 어린이에 대한 혐오 발언을 허용하는 것인데, 이는 "모든 흑인"이 아닌 흑인 "어린이" 하위 집합을 비난하기 때문이며, "모든 백인 남성"은 백인과 남성의 하위 집합으로 간주되지 않기 때문에 차단을 유발한다. 페이스북은 또한 광고 구매자가 "유대인 혐오자"를 사용자 범주로 지정할 수 있는 것으로 밝혀졌는데, 회사는 데이터 평가 및 분류에 사용되는 알고리즘의 의도하지 않은 결과라고 말했다. 또한 광고 구매자가 아프리카계 미국인이 주택 광고를 보는 것을 막을 수 있도록 설계되다.
혐오 발언을 추적하고 차단하는 데 알고리즘이 사용되지만, 일부 알고리즘은 흑인 사용자가 게시한 정보를 혐오 발언으로 표시할 가능성이 1.5배 높고, 아프리카계 미국인 영어로 작성된 경우 2.2배 더 높은 것으로 나타났다. 비방과 욕설에 대한 맥락이 없이, 심지어 그것을 해당 공동체에 다시 올렸을 때에도 표시가 붙었다.
영향 > 인종 및 민족 차별 > 감시

감시 카메라 소프트웨어는 정상적인 행동과 비정상적인 행동을 구분하고 특정 시간에 특정 위치에 누가 속해 있는지 판단하는 알고리즘이 필요하기 때문에 본질적으로 정치적인 것으로 간주될 수 있다. 이러한 알고리즘이 인종적 스펙트럼에 걸쳐 얼굴을 인식하는 능력은 훈련 데이터베이스에 있는 이미지의 인종적 다양성에 의해 제한되는 것으로 나타났다. 대부분의 사진이 한 인종 또는 한 성별에 속한다면, 소프트웨어는 해당 인종 또는 성별의 다른 구성원을 더 잘 인식하는 것으로 나타났다. 그러나 이러한 이미지 인식 시스템에 대한 감사조차도 윤리적 위험성이 있으며 일부 학자들은 이 기술의 맥락이 항상 과도한 감시를 받는 커뮤니티에 불균형적인 영향을 미칠 것이라고 제안했다. 예를 들어, 2002년에 CCTV 이미지에서 개인을 식별하는 데 사용되는 소프트웨어를 분석한 결과, 범죄 데이터베이스에 대해 실행했을 때 편향성의 몇 가지 예가 발견되었다. 이 소프트웨어는 여성보다 남성을, 젊은이보다 노인을 더 자주 식별하고, 백인보다 아시아인, 아프리카계 미국인 및 기타 인종을 더 자주 식별하는 것으로 평가되었다.:190 2018년의 연구에 따르면, 얼굴 인식 소프트웨어는 밝은 피부(일반적으로 유럽인)의 남성을 가장 정확하게 식별하는 것으로 나타났으며, 밝은 피부의 여성은 정확도가 약간 낮았다. 피부색이 어두운 남성과 여성은 얼굴 인식 소프트웨어가 정확하게 식별할 확률이 현저히 낮았다. 이러한 차이는 이 소프트웨어를 개발하는 데 사용된 데이터 세트에서 피부색이 어두운 참가자가 과소 대표되었기 때문이다.