shopkeeper/korean_wiki_content_only_120125 huggingface dataset:
음악미학 또는 음악의 미학(Aesthetics of music)은 예술의 본질, 음악의 아름다움과 취향, 음악의 아름다움 창조 또는 감상을 다루는 철학의 한 분야이다. 근대 이전 전통에서 음악의 미학 또는 음악 미학은 리듬과 화성적 구성의 수학적, 우주론적 차원을 탐구했다. 18세기에는 음악을 듣는 경험으로 초점이 옮겨졌고, 따라서 음악의 아름다움과 음악의 인간적 즐거움(plaisir 및 jouissance)에 대한 질문으로 옮겨졌다. 이러한 철학적 전환의 기원은 때때로 18세기 바움가르텐에 기인하고, 그 다음은 칸트에 기인한다.
미학은 철학의 하위 학문이다. 20세기에는 피터 키비, 제롤드 레빈슨, 로저 스크러턴 및 스티븐 데이비스가 음악 미학에 중요한 공헌을 했다. 그러나 많은 음악가, 음악 평론가, 기타 비철학자들이 음악미학에 기여해 왔다. 19세기에는 음악평론가이자 음악학자인 에두아르트 한슬릭(Eduard Hanslick)과 작곡가 리차드 바그너(Richard Wagner) 사이에 기악이 청취자에게 감정을 전달할 수 있는지에 대한 중요한 논쟁이 일어났다. 바그너와 그의 제자들은 기악이 감정과 이미지를 전달할 수 있다고 주장했다. 이러한 신념을 지닌 작곡가들은 기악을 사용하여 이야기를 전달하거나 풍경을 묘사하려는 기악시를 썼다. 역사는 한슬릭을 바그너의 적으로 묘사하지만, 1843년 드레스덴에서 탄호이저가 초연된 후 한슬릭은 이 오페라에 대해 극찬을 했다. 그는 바그너를 “독일 낭만주의 오페라의 새로운 유파의 위대한 새 희망”이라고 불렀다. 스탠포드 대학의 바그너 오페라를 전문으로 하는 음악학자 토마스 그레이는 "음악 속의 아름다운 것에 대하여"는 바그너의 논쟁적인 과시와 과장된 이론에 대한 반격으로 쓰여졌다고 주장한다. 한슬릭과 그의 지지자들은 기악은 어떤 감정이나 이미지도 전달하지 않는 단순한 소리 패턴이라고 주장했다.
고대부터 음악은 우리의 정서, 지성, 심리학에 영향을 미치는 능력이 있다고 생각되어 왔다. 그것은 우리의 외로움을 달래줄 수도 있고 우리의 열정을 불러일으킬 수도 있다. 고대 그리스 철학자 플라톤은 『국가』에서 음악이 영혼에 직접적인 영향을 미친다고 제안했다. 따라서 그는 이상적인 체제에서는 음악이 국가에 의해 엄격하게 규제될 것이라고 제안한다(Book VII). 음악미학에서는 작곡 구조의 중요성을 강조하는 경향이 강했다. 그러나 음악미학과 관련된 다른 문제에는 서정성, 조화, 최면, 감정, 시간적 역동성, 공명, 장난기 및 색상(음악 발달 문서 참고)이 포함된다.
심리학철학(Philosophy of psychology) 또는 심리학의 철학은 심리학의 역사와 기초에 관심을 갖는다. 인식론적, 존재론적 문제를 모두 다루며 심리철학, 이론심리학 등 다른 분야와 관심을 공유한다. 철학적 심리학과 이론 심리학은 밀접하게 연결되어 있으므로 때때로 같은 의미로 사용되거나 함께 사용된다. 그러나 심리학 철학은 철학에 대한 일반적인 논쟁과 철학적 방법에 더 많이 의존하는 반면, 이론심리학은 여러 영역을 활용한다.
존재론.
심리학철학자들은 또한 다음과 같은 존재론적 문제에 관심을 갖고 있다.
브라마닷타()는 기원전 6세기에 앙가를 다스린 군주로, 앙가의 마지막 왕이다.
브라마닷타는 마가다의 빔비사라와 동시대의 인물이었다. 그는 빔비사라의 아버지인 바티야를 물리쳤다. 아버지의 뒤를 이어 마가다의 왕이 된 빔비사라는 앙가를 정복한 후 브라마닷타를 죽여 아버지의 원수를 갚았다. 그 결과 앙가는 합병되었고, 아자타샤트루 왕자가 앙가의 수도 참파의 총독으로 임명되어 앙가 지역을 다스렸다.
화학철학 또는 화학의 철학(Philosophy of chemistry)은 화학 과학의 방법론과 기본 가정을 고려한다. 철학자, 화학자, 철학자-화학자 팀이 이를 탐구한다. 역사의 대부분 동안 과학철학은 물리학철학의 지배를 받아왔지만, 화학에서 제기되는 철학적 질문은 20세기 후반부터 점점 더 많은 관심을 받아왔다.
마크로밀 엠브레인(Macromill Embrain Co. Ltd.)는 대한민국의 마케팅 리서치기업이다. 본사는 서울특별시 서초구 명달로 9 Terrace B(구.방배빌딩)에 위치해 있으며 대표이사는 최인수이다.
2020년 7월 1일에 주관사를 NH투자증권으로 공모가에 6800원에 코스닥 시장에 상장하였다.
마음AI(Maum AI Inc.)는 대한민국의 인공지능 서비스 기업이다. 본사는 경기도 성남시 수정구 창업로40번길 30 4층(시흥동, 판교IT센터)에 위치해 있다. 대표이사는 유태준이다.
2023년 사명을 마인즈랩에서 현재의 이름으로 변경하였다
2021년 11월 23일에 주관사를 NH투자증권와 하나금융투자로 공모가 30,000원에 코스닥 시장에 상장하였다.
다음은 트랙 사이클링 종목의 올림픽 기록 목록이다.
◆는 현재 세계 기록에도 해당된다. 기준일은 2020년 하계 올림픽 마지막 경기일인 2021년 8월 6일.
에스토니아컵()은 에스토니아 축구 협회에서 주관하는 토너먼트 축구 대회이다. 2012년부터 에스토니아에서 가장 위대한 골키퍼로 여겨지는 에발드 티프네르(Evald Tipner)의 이름을 따서 에발드 티프네리 카리카버이스틀루세드(Evald Tipneri karikavõistlused - 에발드 티프네르 컵대회)라고도 불린다.
우승팀은 해당 시즌 및 우승팀명이 새겨진 트로피를 수여받아 다음 시즌 대회까지 소유할 수 있다. 또한 다음 시즌 UEFA 유로파컨퍼런스리그 1차 예선라운드에 진출하게 된다.
메이스트릴리가부터 지역 리그까지 같은 시즌에 참가하는 모든 팀이 대회에 참가할 수 있다. 대회는 단일 토너먼트 방식으로 진행된다. 각 라운드 전에 각 상대팀은 무작위로 추첨되며, 각 경기는 먼저 추첨된 팀의 홈구장에서 진행된다. 보통 1라운드 추첨은 이전 토너먼트 결승전 장소에서 진행된다. 현재 결승전은 A. 레 코크 아레나에서 개최되고 있다.
1940년부터 1991년까지는 1차 소련 침공, 독일의 침공, 2차 소련 침공으로 공식적으로 대회가 열리지 못했다.
퀸타 브런슨(, 1989년 12월 21일 ~ )은 미국의 작가, 제작자, 배우, 희극인이다.
다음은 1908년 남자 축구가 올림픽 공식 종목으로 채택된 이래 역대 올림픽 남자 축구 종목의 기록 목록이다.
메달순위.
1972년 뮌헨 올림픽에서는 공동 동메달이 나왔다.
1908년 런던 올림픽에서 남자 축구 대회가 처음 열린 이래 역대 최다 득점자는 덴마크의 소푸스 닐센과 헝가리의 안탈 두나이가 13골 득점으로 공동기록을 지니고 있다. 소푸스 닐센은 1908년 런던 올림픽에서 11골, 1912년 스톡홀름 올림픽에서 2골을 넣었고, 두나이는 1968년 멕시코시티 올림픽에서 6골, 1972년 뮌헨 올림픽에서 7골을 넣었다.
단일 대회 최다 득점자는 헝가리의 페렌츠 베네로 1964년 도쿄 올림픽에서 12골을 기록했다. 단일 경기 최다 득점자는 10골을 기록한 소푸스 닐센과 고트프리트 푹스로, 소푸스 닐센은 1908년 프랑스와의 준결승전에서, 푹스는 1912년 러시아와의 1차 경기에서 기록하였다.
올림픽 역사상 가장 빠른 득점자는 브라질의 네이마르로, 2016년 8월 17일 온두라스와의 준결승 경기에서 경기 시작 14초 만에 골을 기록했다.
대회별.
대회별 최다 득점자 순위
역대 최다 득점자 (7득점 이상)
국가대표팀 성적 기록.
아래 기록들의 순서는 해당 기록을 먼저 달성한 국가대표팀부터 나열하였다.
비피도(Bifido)는 대한민국의 건강기능식품 기업이다.
직원 횡령 사건.
2024년 회사의 자금업무 담당 직원이 자기자본의 15.6%에 달하는 81억원을 횡령한 사건이 발생하여 주식매매 거래가 정지되었다.
2021년 7월 21일, 아미코젠이 지근억 외 7인의 지분 30%를 인수하였다.
2024년 8월 30일, 환인제약이 아미코젠의 지분 30%를 인수하였다.
웨스터하우트 49-2 (W49-2)는 H II 영역 웨스터하우트 49에 존재하는 매우 무겁고 밝은 항성이다. 질량은 태양질량의 250배(상당한 불확실성이 존재한다)고 광도는 400만 이상으로 알려진 가장 무겁고 가장 밝은 별 중 하나다.
웨스터하우트 49-2는 태양으로부터 약 11.1 킬로파섹 떨어진 H II 영역 웨스터하우트 49 내에 위치한다. 이 별은 K 밴드에서 거의 5등급이나 붉어지며 이는 이 영역의 별 중 가장 큰 값이다. 웨스터하우트 49-2는 O2-3.5If*의 분광형을 갖는 진화된 빗금표 항성으로 분류되며 이 별은 알려진 가장 밝은 별 중 하나로 광도는 이고 온도는 약 35,500 K으로 이는 태양 반경의 55배 이상에 대응한다.
웨스터하우트 49-2의 특성에는 상당한 불확실성이 존재한다. 질량-광도 관계를 사용한 한 추정치는 90에서 사이의 질량을 도출한다. 질량은 이론적 상한인 150 M☉보다 높을 가능성이 높고 이는 엑스선이 감지된다면 쌍성일 가능성이 존재함을 의미한다. 웨스터하우트 49-1, 49-2 및 49-12는 모두 밝은 X선원으로 이들은 모두 쌍성일 수 있으며 단독성일 경우의 예상 질량보다 질량이 낮을 수 있음을 의미한다.
데바부티()는 숭가 제국의 마지막 황제이다. 그는 대신 바수데바 칸바에 의해 암살되었으며, 그의 사후 숭가 제국이 무너지고 칸바 왕조로 교체되었다.
푸시야미트라 숭가 이후 후대의 숭가 황제들은 권력이 거의 없는 허수아비 신세였다. 바나의 '하르사차리타'에 따르면 그는 재상 바수데바 칸바에 의해 황후로 변장한 데바후티의 여종의 딸에게 암살당했다고 한다.
그는 여자와의 교제를 지나치게 좋아했으며, 감각적 쾌락에 지나치게 탐닉했다고 한다.
마나바는 가우다의 왕 샤샹카의 아들이자 후계자였다. 그는 마지막으로 기록된 가우다 통치자였고 아마도 푸슈야부티 왕조의 황제 하르샤바르다나 또는 카마루파의 왕 바스카라바르만에 의해 폐위되었을 것이다. 그는 서기 625년부터 626년까지 8개월 5일 동안 왕으로 통치했다.
안자나(अंजन)는 불교 경전에 의하면, 고타마 붓다의 시대 즈음에 존재했던 콜리야 공화국의 수장이다.
그는 데바다하의 아들로, 아들 숫파붓다와 단다파니, 마야, 파자파티를 포함해 6명의 딸을 낳았다. 마야와 파자파티는 나중에 슈도다나와 결혼했다. 마야는 고타마 붓다의 어머니였다.
광성고등보통학교 축구단(光成高等普通學校蹴球團)은 일제강점기 조선 평안남도 평양부에 있었던 축구 선수단이다. 광성고등보통학교가 운영했던 U-18 축구단이며, 1921년 이전에 창단되었고 1940년 이후에 해단되었다.
비씨엔씨(BCNC Co., Ltd.)는 대한민국의 반도체 소재 기업이다. 합성쿼츠 등과 합성쿼츠 기반 부품을 생산한다 본사는 경기도 이천시 신둔면 마소로 57번길 25에 위치해 있으며 대표이사는 김돈한이다.
2022년 3월 3일에 주관사를 NH투자증권으로 공모가 13,000원에 코스닥 시장에 상장하였다.
알고리즘 편향()은 알고리즘이 원래 의도한 기능과는 다르게 한 범주를 다른 범주보다 "특혜"를 주는 등 "불공정"한 결과를 만드는 컴퓨터 시스템의 체계적이고 반복 가능한 오류를 말한다.
편향은 알고리즘의 설계, 의도하지 않았거나 예상치 못한 사용, 또는 알고리즘을 훈련시키기 위해 데이터를 코딩, 수집, 선택, 사용하는 방식과 관련된 결정을 포함한 그밖의 다양한 요인으로 인해 발생할 수 있다. 검색 엔진 결과와 소셜 미디어 플랫폼 등에서 알고리즘 편향이 관찰되었다. 이러한 편향은 의도치 않은 개인정보 침해부터 인종, 성별, 젠더, 민족성에 대한 사회적 편견 강화에 이르기까지 다양한 영향을 미칠 수 있다. 알고리즘 편향에 대한 연구는 "체계적이고 불공정한" 차별을 반영하는 알고리즘에 가장 큰 관심을 두고 있다. 이러한 편향은 최근에 와서야 유럽연합의 "일반 데이터 보호 규정"(2018) 및 제안된 "인공지능법"(2021)과 같은 법적 틀에서 다루어지고 있다.
알고리즘이 사회, 정치, 제도 및 행동을 조직하는 능력을 확장함에 따라 사회학자들은 예상치 못한 데이터의 출력과 조작이 실제 세계에 어떤 영향을 미칠 수 있는지에 대해 관심을 갖게 되었다. 알고리즘은 종종 중립적이고 편견이 없는 것으로 간주되기 때문에 (부분적으로는 자동화 편향이라는 심리적 현상으로 인해) 인간의 전문 지식보다 더 큰 권위를 부정확하게 투영할 수 있으며, 경우에 따라 알고리즘에 대한 의존이 결과에 대한 인간의 책임을 대체할 수 있다. 편향은 기존의 문화적, 사회적 또는 제도적 기대의 결과로 알고리즘에 유입될 수 있다. 알고리즘 설계의 기술적 한계, 또는 예상치 못한 상황에서의 사용, 소프트웨어의 초기 설계에서 고려되지 않은 잠재 고객의 사용 등도 원인이 될 수 있다.
알고리즘 편향은 선거 결과에서 온라인 혐오 발언의 확산에 이르기까지 다양한 사례에서 언급되었다. 또한 형사 사법, 의료, 채용 분야에서도 알고리즘 편향이 발생하여 기존의 인종적, 사회경제적, 성별 편견을 더욱 심화시키고 있다. 불균형한 학습 데이터세트 때문에 얼굴 인식 기술이 상대적으로 어두운 피부색의 얼굴을 정확하게 식별하지 못하는 현상은 여러 건의 흑인 남성의 부당한 체포와 관련이 있다. 일반적으로 영업 비밀로 취급되는 알고리즘의 독점적 특성으로 인해 알고리즘 편향을 이해하고, 연구하고, 발견하는 데 지속적으로 문제가 되고 있다. 완전한 투명성이 제공되더라도 특정 알고리즘의 복잡성은 그 기능을 이해하는 데 장애가 될 수 있다. 또한 알고리즘은 분석을 위해 예상하거나 쉽게 재현할 수 없는 방식으로 변경되거나 입력 또는 출력에 응답할 수 있다. 단일 웹사이트나 애플리케이션 내에서도 조사해야 할 단일 "알고리즘"이 없으며, 동일한 서비스 사용자 간에도 상호 관련된 많은 프로그램과 데이터 입력으로 구성된 네트워크가 존재하는 경우가 많다.
알고리즘은 정의하기 어렵지만, 일반적으로 프로그램이 데이터를 읽고, 수집하고, 처리하고, 분석하여 출력을 생성하는 방법을 결정하는 명령 목록으로 이해할 수 있다. 컴퓨터 하드웨어의 발전으로 데이터를 처리, 저장히거 전송하는 능력이 향상되었다. 이에 따라 기계 학습 및 인공지능과 같은 기술의 설계와 채택이 활발해졌다. 데이터를 분석하고 처리함으로써 알고리즘은 검색 엔진, 소셜 미디어 웹사이트, 추천 엔진, 온라인 리테일, 온라인 광고 등의 핵심이 된다.
현대 사회과학자들은 하드웨어 및 소프트웨어 애플리케이션에 내장된 알고리즘 프로세스가 정치적, 사회적으로 미치는 영향에 관심을 갖고 알고리즘의 중립성에 대한 근본적인 가정에 의문을 제기한다. "알고리즘 편향"이라는 용어는 임의의 사용자 그룹에 다른 사용자 그룹보다 특혜를 부여하는 등 불공정한 결과를 초래하는 체계적이고 반복 가능한 오류를 말한다. 예를 들어, 신용 점수 알고리즘은 관련 재무 기준을 일관되게 평가하는 경우 불공정하지 않게 대출을 거부할 수 있다. 알고리즘이 한 사용자 그룹에는 대출을 추천하지만 거의 동일한 다른 사용자 그룹에는 관련 없는 기준에 따라 대출을 거부하는 경우, 그리고 이러한 행동이 여러 번 반복될 수 있는 경우 알고리즘이 편향된 것으로 설명할 수 있다. 이러한 편향은 의도적이거나 의도적이지 않을 수 있다.
편향은 여러 방법으로 알고리즘에 도입될 수 있다. 데이터세트를 수집하는 동안 사람이 설계한 카탈로그 작성 기준에 따라 데이터를 수집, 디지털화, 조정 및 데이터베이스에 입력할 수 있다. 다음으로 프로그래머는 프로그램에서 데이터를 평가하고 분류하는 방법에 대한 우선순위 또는 계층을 할당한다. 이를 위해서는 데이터를 분류하는 방법과 어떤 데이터를 포함하거나 폐기할 것인지에 대한 사람의 결정이 필요하다. 일부 알고리즘은 사람이 선택한 기준에 따라 자체 데이터를 수집하며, 이는 인간 설계자의 편향을 반영할 수도 있다. 다른 알고리즘은, 예를 들어 유사한 사용자 또는 사용자 그룹의 이전 선택에 따라 정보를 선택하는 방식으로. 인간 사용자와 "연관된" 데이터를 처리할 때 고정관념과 선호도를 강화할 수 있다.
데이터를 수집하고 처리하는 것 외에도 설계의 결과로 편향성이 나타날 수 있다. 예를 들어, (학교 배정 결정 같은) 자원 할당이나 조사를 결정하는 알고리즘은 유사한 사용자를 기반으로 위험을 결정할 때 (신용 점수에서와 같이) 의도치 않게 특정 범주를 차별할 수 있다. 한편, 사용자를 유사한 사용자와 연결하여 작동하거나 추론된 마케팅 특성을 이용하는 추천 엔진은 광범위한 민족, 성별, 사회경제적 또는 인종적 고정관념을 반영하는 부정확한 연관성에 의존할 수 있다. 또 다른 예는 결과에 포함할 항목과 제외할 항목에 대한 기준을 결정하는 데서 생긴다. 이러한 기준은 후원하는 항공사의 비행 경로를 따르지 않는 항공편을 생략하는 항공편 추천 소프트웨어와 같이 검색 결과에 예상치 못한 결과를 제시할 수 있다. 또한 알고리즘은 불확실성 편향을 표시하여 더 큰 데이터세트를 사용할 수 있을 때 더 확신있는 평가를 제공할 수 있다. 이는 알고리즘 프로세스를 더 큰 표본과 더 밀접하게 일치하는 결과로 왜곡할 수 있으며, 이는 덜 대표되는 모집단의 데이터를 무시할 수 있다.
초기 비평.
초기의 컴퓨터 프로그램은 인간의 추론과 연역을 모방하도록 설계되었으며, 이러한 인간의 논리를 성공적으로 일관되게 재현할 때 제대로 작동하는 것으로 간주되었다. 인공지능의 선구자인 요제프 바이첸바움은 1976년 저서 '컴퓨터의 힘과 인간의 이성(Computer Power and Human Reason)'에서 편향성이 프로그램에 사용된 데이터 뿐만 아니라 프로그램이 코딩되는 방식에서도 발생할 수 있다고 제안했다.
바이첸바움은 프로그램은 컴퓨터가 따라야 할 인간이 만든 일련의 규칙이라고 썼다. 이러한 규칙을 일관되게 따름으로써 이러한 프로그램은 "규칙을 구현"한다. 즉, 문제를 해결하기 위한 특정 방법을 시행한다. 컴퓨터가 따르는 규칙은 이러한 문제를 해결하는 방법에 대한 컴퓨터 프로그래머의 가정을 기반으로 한다. 즉, 코드에는 편견과 기대를 포함하여 세계가 어떻게 작동하는지에 대한 프로그래머의 상상력이 포함될 수 있다. 바이첸바움은 컴퓨터 프로그램이 이러한 방식으로 편견을 통합할 수 있지만, 또한 기계에 공급되는 모든 데이터는 데이터가 선택될 때 "인간의 의사 결정 과정"을 추가로 반영한다고 언급했다.
마지막으로 그는 사용자가 결과를 해석하는 방법을 잘 모를 경우 기계가 의도하지 않은 결과로 좋은 정보를 전달할 수도 있다고 지적했다. 바이첸바움은 사용자가 이해하지 못하는 컴퓨터 프로그램의 결정을 신뢰하는 것에 대해 경고했는데, 이를 동전 던지기 결과만 가지고 왼쪽이나 오른쪽으로 돌면서 호텔 방으로 가는 길을 찾으려는 관광객과 비교했다. 결정적으로, 관광객은 목적지에 어떻게 또는 왜 도착했는지 이해할 근거가 없으며, 성공적으로 도착했다고 해서 그 과정이 정확하거나 신뢰할 수 있다는 것을 의미하지는 않는다.
알고리즘 편향의 초기 사례로 1982년부터 1986년까지 세인트 조지 의과대학에서 60 여명의 여성과 소수 민족이 입학을 거부당한 경우가 있는데, 이는 과거 입학 경향에 따라 "외국어로 들리는 이름"을 가진 여성과 남성의 입학을 거부하는 새로운 컴퓨터 안내 평가 시스템을 도입했기 때문이다. 당시 많은 학교가 선발 과정에서 유사한 편향을 사용했지만 세인트 조지 대학교는 알고리즘을 사용하여 이러한 편향을 자동화한 것으로 알려져 훨씬 더 많은 사람들의 관심을 끌었다.
최근에는 실제 데이터에 기계 학습 기법을 사용하는 알고리즘이 늘어나면서 데이터에 존재하는 편향성으로 인해 알고리즘 편향이 더 자주 발견될 수 있다.
현대의 비평과 대응.
잘 설계된 알고리즘은 종종 인간의 결정과 동등하거나 그 이상의 공평한 결과를 결정하지만, 편향성인 사례는 여전히 발생하며 예측 및 분석이 어렵다. 알고리즘 편향성 분석의 복잡성은 프로그램과 그 설계의 복잡성과 함께 증가해 왔다. 한 명의 설계자 또는 설계자 팀이 내린 결정은 단일 프로그램을 위해 작성된 많은 코드 조각들로 가려질 수 있으며, 시간이 지남에 따라 이러한 결정과 프로그램 출력에 대한 총체적 영향은 잊혀질 수 있다. 이론적으로 이러한 편향은 코드가 사회의 다른 요소와 상호 작용할 때 특정 기술과 관련하여 새로운 행동 패턴, 즉 "대본"을 만들 수 있다. 편향은 알고리즘이 요구하는 데이터 포인트를 중심으로 사회가 어떻게 형성되는지에도 영향을 미칠 수 있다. 예를 들어, 데이터에 특정 지역에서 체포 건수가 많은 것으로 나타나면 알고리즘은 해당 지역에 더 많은 경찰 순찰을 배정하여 더 많은 체포로 이어질 수 있다.
알고리즘 프로그램의 결정은 알고리즘이 돕고자 하는 인간의 결정보다 더 권위 있는 것으로 간주될 수 있으며, 이 과정을 저자 클레이 셔키는 "알고리즘 권위"(algorithmic authority)라고 설명했다. 셔키는 이 용어를 사용하여 검색 결과와 같이 "다양하고 신뢰할 수 없는 출처에서 가치를 추출하는 관리되지 않는 프로세스를 권위있는 것으로 간주하는 결정"을 설명했다. 이러한 중립성은 결과가 대중에게 공개 될 때 전문가와 언론이 사용하는 언어로 인해 잘못 표현될 수도 있다. 예를 들어, "경향" 또는 "인기"로 표시되는 뉴스 항목 목록은 단순한 인기도보다 훨씬 더 광범위한 기준에 따라 작성될 수 있다.
알고리즘은 그 편리함과 권위 때문에 인간으로부터 책임을 위임하는 수단으로 이론화된다. 이는 대안, 타협 또는 유연성을 감소시키는 효과를 가져올 수 있다. 사회학자 스콧 래시는 알고리즘이 실제 목적을 달성하기 위한 가상의 수단이라는 점에서 알고리즘을 새로운 형태의 '생성적 권력'이라고 비판했다. 이전에는 인간의 행동이 수집하고 연구할 데이터를 생성했다면, 강력한 알고리즘이 점점 더 인간의 행동을 형성하고 정의할 수 있게 되었다.
알고리즘이 사회에 미치는 영향에 대한 우려로 인해 구글과 마이크로소프트와 같은 조직에서 기계 학습의 공정성, 책임성, 투명성이라는 이름의 워킹 그룹을 공동으로 만들었다. 구글의 아이디어에는 알고리즘의 결과를 순찰하고 부정적인 결과를 초래할 수 있다고 판단되는 결과를 제어하거나 제한하기 위해 투표하는 커뮤니티 그룹이 포함되었다. 최근 몇 년 동안 알고리즘의 공정성, 책임성 및 투명성(Fairness, Accountability, and Transparency; FAT)에 대한 연구는 FAccT라는 연례 회의를 통해 자체 학제 간 연구 영역으로 부상했다. 비평가들은 많은 사람들이 연구중인 시스템을 구축하는 기업으로부터 자금을 지원받을 때 FAT 이니셔티브가 독립적인 감시자 역할을 효과적으로 수행 할 수 없다고 제안했다.
기존 편향.
알고리즘의 기존 편향은 근본적인 사회적 및 제도적 이데올로기의 결과이다. 이러한 아이디어는 개별 설계자나 프로그래머에게 개인적 편향에 영향을 미치거나 만들 수 있다. 이러한 편향은 명시적이고 의식적일 수도 있고, 암묵적이고 무의식적일 수도 있다. 잘못 선택된 입력 데이터 또는 단순히 편향된 출처의 데이터는 기계에 의해 생성된 결과에 영향을 미친다. 기존의 편향을 소프트웨어로 인코딩하면 사회적 및 제도적 편향을 보존할 수 있으며, 수정 없이 해당 알고리즘의 향후 모든 사용에 복제될 수 있다.
이러한 형태의 편향의 예로는 1981년 영국 국적법 이후 새로운 영국 시민에 대한 평가를 자동화하기 위해 설계된 영국 국적법 프로그램이 있다. 이 프로그램은 "남자는 자신의 합법적인 자녀에게만 아버지이고, 여자는 합법적이든 아니든 자신의 모든 자녀의 어머니"라는 법의 원칙을 정확하게 반영한다. 특정 논리를 알고리즘 프로세스로 옮기려는 시도에서 프로그램은 영국 국적법의 논리를 알고리즘에 새겨 넣었으며, 이 논리는 결국 법률이 폐지되더라도 영구적으로 남을 것이다.
"레이블 선택 편향"이라고 불리는 또 다른 편향의 원인은 특정 그룹에 대한 편견을 구축하는 알고리즘을 훈련하는 데 대리 척도를 사용할 때 발생한다. 예를 들어, 널리 사용되는 알고리즘은 의료 수요에 대한 대용으로 의료 비용을 예측하고, 이 예측을 사용하여 복잡한 의료 소유가 있는 환자를 돕기 위한 자원을 할당했다. 이로 인해 흑인 환자는 백인 환자만큼 건강하지 않더라도 더 적은 의료 비용을 사용하기 때문에 편향이 발생했다. "레이블 선택 편향"에 대한 해결책은 (알고리즘이 예측하는) 실제 목표를 (연구자들이 예즉하기를 원하는) 이상적인 목표에 더 가깝게 일치시키는 것을 목표로 기 때문에, 이전 예에서 연구자는 의료 비용을 예측하는 대신에 훨씬 더 중요한 의료 요구라는 변수에 초점을 맞출 것이다. 목표를 조정한 결과 프로그램이 선정한 흑인 환자 수가 거의 두 배로 증가했다.
기계 학습 편향.
기계 학습 편향이란 기계 학습 알고리즘의 결과물에 체계적이고 불공정한 불균형이 발생하는 것을 말한다. 이러한 편향은 다양한 방식으로 나타날 수 있으며 알고리즘을 학습시키는 데 사용되는 데이터를 반영하는 경우가 많다. 다음은 몇 가지 주요 측면이다:
언어 편향.
언어 편향은 질의 언어와 관련된 통계적 샘플링 편향의 한 유형으로, "샘플링 정보의 체계적인 편차로 인해 저장소에서 사용 가능한 주제와 견해의 실제 범위를 정확하게 나타내지 못하게 하는 것"을 말한다. Luo 등의 연구에 따르면 현재의 대규모 언어 모델은 주로 영어 데이터에 대해 학습되기 때문에 종종 영미권의 관점을 진실로 제시하면서 비영어권의 관점은 관련성이 없거나 잘못되거나 잡음으로 체계적으로 경시하는 것으로 나타났다. "자유주의란 무엇인가요?"와 같은 정치 이데올로기로 질문했을 때, 영어 중심의 데이터로 학습된 ChatGPT는 영미권의 관점에서 자유주의를 설명하며 인권과 평등의 측면을 강조하는 반면, 베트남의 지배적인 관점에서 "개인 및 경제 생활에 대한 국가 개입 반대"와 중국의 지배적인 관점에서 "정부 권력의 제한"과 같은 똑같이 타당한 측면은 빠져 있다.
성별 편향.
성별 편향은 이러한 모형이 특정 성별에 대해 부당하게 편견이 있는 결과를 산출하는 경향을 말한다. 이러한 편향은 일반적으로 이러한 모델이 학습된 데이터에서 발생한다. 예를 들어, 대규모 언어 모델은 종종 전통적인 성별 규범에 따라 역할과 특성을 할당하기 때문에 간호사나 비서는 주로 여성, 엔지니어나 CEO는 남성과 연관시킬 수 있다.
이러한 모형은 성별과 인종 외에도 연령, 국적, 종교, 직업 등 다양한 고정관념을 강화할 수 있다. 이로 인해 특정 집단을 부당하게 일반화하거나 때로는 해롭거나 경멸적인 방식으로 풍자하는 결과물이 나올 수 있다.
정치적 편향.
정치적 편향이란 알고리즘이 특정 정치적 관점, 이념 또는 결과를 다른 것보다 체계적으로 선호하는 경향을 말한다. 언어 모델도 정치적 편향을 보일 수 있다. 학습 데이터에는 다양한 정치적 의견과 범위가 포함되어 있기 때문에 데이터에서 이러한 견해가 얼마나 널리 퍼져 있는지에 따라 모델이 특정 정치적 이념이나 관점에 치우친 응답을 생성할 수 있다.
기술적 제약.
기술적 편향은 프로그램, 계산 능력, 설계 또는 그 밖의 시스템의 제약으로 인해 발생한다. 이러한 편향은 설계 상의 제약일 수도 있다. 예를 들어 한 화면에 3개의 결과를 표시하는 검색 엔진은 항공사 가격 표시에서 상위 3개의 결과를 다음 3개보다 약간 더 우선시하는 것으로 이해될 수 있다. 또 다른 사례는 결과의 공정한 분배를 위해 무작위성에 의존하는 소프트웨어이이다. 난수 생성 방식이 살제로 무작위가 아닌 경우, 예를 들어 목록의 끝이나 시작 부분에 있는 항목으로 선택이 치우침으로써 편향을 유발할 수 있다.
탈맥락화 알고리즘은 관련 없는 정보를 사용하여 결과를 정렬한다. 예를 들어 알파벳 순서로 결과를 정렬하는 항공권 가격 알고리즘은 유나이티드 항공(United Airlines)보다 아메리칸 항공(American Airlines)에 유리하도록 편향될 수 있다. 반대의 경우로, 결과가 수집된 맥락과 다른 맥락에서 평가되는 경우에도 적용될 수 있다. 예를 들어, 감시 카메라에서 얼굴 인식 소프트웨어를 사용하지만 다른 국가나 지역의 원격 직원이 평가하거나 카메라 시야 밖에서 일어나는 일을 인식하지 못하는 비인간 알고리즘에 의해 평가되는 등 중요한 외부 맥락 없이 데이터가 수집될 수 있다. 이로 인해 범죄 현장에 대한 불완전한 이해를 만들 수 있다. 예를 들어 지나가는 행인을 범죄를 저지른 사람으로 오인할 가능성이 있다.
마지막으로, 기술적 편향은 인간의 행동이 동일한 방식으로 작동한다는 가정 하에 의사 결정을 구체적인 단계로 공식화하려고 시도함으로써 발생할 수 있다. 예를 들어, 소프트웨어는 배심원의 감정에 미치는 영향을 무시한 채, 피고가 형량 협상을 받아들여야 하는지 여부를 결정하기 위해 데이터 포인트에 가중치를 부여한다. 이러한 형태의 편향의 또 다른 의도하지 않은 결과는 학생이 작성한 텍스트를 온라인에서 찾은 정보와 비교하여 학생의 작품이 표절되었을 확률 점수를 반환하는 표절 탐지 소프트웨어 Turnitin에서 발견되었다. 이 소프트웨어는 긴 텍스트 문자열을 비교하기 때문에 원어민보다 영어가 모국어가 아닌 비원어민을 식별할 가능성이 더 높다. 원어민의 경우, 개별 단어를 변경하거나 표절된 텍스트 문자열을 분리하거나 동의어를 통해 복사된 구절을 모호하게 만들 수 있기 때문이다. 소프트웨어의 기술적 제약으로 인해 원어민은 탐지를 회피하기가 더 쉽기 때문에 Turnitin이 영어가 모국어가 이난 외국인의 표절을 식별하는 동시에 더 많은 원어민이 탐지를 회피하는 시나리오가 만들어진다.
창발적.
창발 편향은 새롭거나 예상치 못한 상황에서 알고리즘을 사용하고 의존한 결과이다. 알고리즘이 신약이나 의학적 혁신, 새로운 법률, 비즈니스 모델 또는 변화하는 문화적 규범과 같은 새로운 형태의 지식을 고려하도록 조정되지 않았을 수 있다. 누가 그들의 배제에 대한 책임이 있는지 이해하기 위한 명확한 개요를 제공하지 않고 기술을 통해 특정 집단을 배제할 수 있다. 마찬가지로, 학습 데이터(특정 결론을 모델링하기 위해 기계에 "공급"되는 샘플)가 알고리즘이 실제 세계에서 직면하는 맥락과 일치하지 않을 때 문제가 발생할 수 있다.
1990년, 미국 의대생을 레지던트로 배치하는 데 사용되는 소프트웨어인 "국립 레지던트 매치 프로그램(National Residency Match Program; NRMP)에서 창발 편향의 예가 확인되었다. 이 알고리즘은 부부가 함께 레지던트를 구하는 경우가 거의 없던 시절에 설계되었다. 더 많은 여성이 의과 대학에 입학함에 따라 더 많은 학생들이 그들의 파트너와 함께 레지던트를 신청할 가능성이 높았다. 절차에 따라 각 지원자는 미국 전역의 선호 배치 목록을 제공하도록 요구했으며, 병원과 지원자가 모두 배정에 동의하도록 분류 및 배정되었다. 둘 다 레지던트를 희망하는 부부의경우, 알고리즘은 높은 점수를 받은 파트너의 위치 선택에 가중치를 두었다. 그 결과 선호도가 높은 학교를 첫 번째 파트너에게, 선호도가 낮은 학교를 두 번째 파트너에게 배정되는 경우가 많았으며, 배치 선호도 타협을 위한 분류가 이루어지지 않았다.
그 외에도 창발 편향은 아래를 포함한다:
대규모 데이터 세트를 서로 비교할 때 예측할 수 없는 상관관계가 나타날 수 있다. 예를 들어, 웹 브라우징 패턴에 대해 수집된 데이터가 (예컨데 인종 또는 성적 취향 등의) 민감한 데이터를 나타내는 신호와 일치할 수 있다. 특정 행동이나 검색 패턴에 따라 선택하면 최종 효과는 직접적으로 인종 또는 성적 지향 데이터를 사용한 차별과 거의 동일할 것이다. 다른 경우에는 알고리즘이 상관관계를 이해하지 못한 채 상관관계를 통해 결론을 도출한다. 예를 들어, 한 분류 프로그램은 폐렴이 없는 천식 환자보다 폐렴이 있는 천식 환자에게 더 낮은 우선순위를 부여한다. 이 프로그램 알고리즘은 단순히 생존율을 비교했기 때문에 폐렴이 있는 천식 환자가 가장 위험하다고 판단했다. 역사적으로, 이와 같은 이유로 병원은 일반적으로 이러한 천식 환자에게 가장 즉각적인 최선의 치료를 제공한다.
예상하지 못한 사용.
예기치 못한 사용자가 알고리즘을 사용될 때 창발 편향이 발생할 수 있다. 예를 들어, 기계는 사용자가 숫자를 읽고, 쓰고, 이해할 수 있기를 요구하거나, 은유적인 인터페이스를 이해하지 못하는 것과 관련될 수 있다. 이러한 배제는 편향적이거나 배타적인 기술이 사회에 더욱 깊숙이 통합됨에 따라 더욱 심화될 수 있다.
배제와는 별개로, 예상치 못한 사용은 최종 사용자가 자신의 지식이 아닌 소프트웨어에 의존하여 예상치 못한 사용이 발생할 수 있다. 한 예로, 영국에서 컴퓨터 과학자와 이민 변호사가 영국 시민권에 대한 적합성을 평가하기 위해 개념 증명으로 영국 국적법 프로그램을 만들 때, 예상치 못한 사용자 그룹이 알고리즘 편향으로 이어진 사례가 있다. 소프트웨어와 이민법에 대한 이해도가 높지 않은 출입국 관리 사무소의 최종 사용자와는 달리, 설계자들은 이를 넘어서는 법률 전문 지식에 접근할 수 있었다. 질문을 관리하는 상담원들은 시민권을 취득할 수 있는 다른 경로를 배제한 채 전적으로 소프트웨어에만 의존했으며, 새로운 판례와 법률 해석으로 인해 알고리즘이 구식이 된 후에도 소프트웨어를 사용했다. 이민법에 대해 법적으로 잘 알고 있다고 가정한 사용자를 위해 알고리즘을 설계한 결과, 소프트웨어의 알고리즘은 간접적으로 영국 이민법의 보다 광범위한 기준이 아닌 알고리즘이 설정한 매우 좁은 법적 기준에 부합하는 신청자를 선호하는 편향된 결과로 이어졌다.
피드백 루프.
알고리즘을 위해 수집된 데이터가 실제 반응을 이끌어내고, 다시 알고리즘에 피드백되는 경우, 창발 편향은 피드백 루프 또는 재귀를 생성할 수 있다. 예를 들어, 미국 캘리포니아주 오클랜드에 배포된 예측 치안 소프트웨어(PredPol)의 시뮬레이션은 대중이 신고한 범죄 데이터를 기반으로 흑인 거주 지역에 경찰 배치를 증가시킬 것을 제안했다. 시뮬레이션은 대중이 경찰이 무엇을 하고 있는지에 상관없이 경찰차를 보고 범죄를 신고한 것으로 나타났다. 이 시뮬레이션은 범죄 예측을 모델링할 때 경찰차 목격을 해석했으며, 그 결과 해당 지역에 경찰이 더 많이 배치되는 것으로 나타났다. 시뮬레이션을 수행한 인권 데이터 분석 그룹은 인종 차별이 체포의 요인이 되는 지역에서 이러한 피드백 루프가 치안 유지에서 인종 차별을 강화하고 영속화할 수 있다고 경고했다. 이러한 행동을 보이는 알고리즘의 또 다른 잘 알려진 예로는 개인이 범죄자가 될 가능성을 판단하는 소프트웨어인 COMPAS가 있다. 이 소프트웨어는 흑인 개인을 다른 사람보다 범죄자로 분류할 가능성이 훨씬 높다는 비판을 받고 있으며, 개인이 범죄자로 등록될 경우 해당 데이터를 다시 피드백하여 알고리즘이 작동하는 데이터 세트에 의해 생성된 편견을 더욱 강화한다.
온라인 동영상이나 뉴스 기사를 추천하는 데 사용되는 것과 같은 추천 시스템은 피드백 루프를 생성할 수 있다. 사용자가 알고리즘이 추천하는 콘텐츠를 클릭하면 다음 추천 콘텐츠에 영향을 미친다. 시간이 지남에 따라 사용자가 필터 버블에 빠져 중요하거나 유용한 콘텐츠를 인식하지 못하게 될 수 있다.
알고리즘이 공정하다고 착각할 수 있는 사용자에 대해 알지 못하다면, 기업 알고리즘은 기업 간의 재무 약정이나 계약을 눈에 보이지 않게 선호하도록 왜곡될 수 있다. 예를 들어, 아메리칸 항공은 1980년대에 항공편 검색 알고리즘을 만들었다. 이 소프트웨어는 다양한 항공사의 다양한 항공편을 고객에게 제공했지만, 가격이나 편의성에 관계없이 자사 항공편의 선호도를 높이는 요소에 가중치를 두었다. 미국 의회 증언에서 아메리칸 항공의 사장은 우대 조치를 통해 경쟁 우위를 확보하려는 의도로 시스템이 만들어졌다고 솔직하게 밝혔다.
구글을 설명하는 1998년 논문에서 구글의 창립자들은 "광고의 지원을 받는 검색 엔진은 본질적으로 광고주에게 편향되고 소비자의 요구에서 벗어날 수 있다"고 주장하면서 유료 게제와 관련하여 검색 결과를 투명하게 공개하는 정책을 채택했다. 이러한 편향은 사용자에 대한 "보이지 않는" 조작이 될 것이다.
투표 행동.
미국과 인도의 부동층 유권자에 대한 일련의 연구에 따르면 검색 엔진 결과가 투표 결과를 약 20%까지 변화시킬 수 있는 것으로 나타났다. 연구자들은 의도가 있든 없든 알고리즘이 상대 후보의 검색 결과 순위를 높이면 다른 후보자들은 "경쟁할 수단이 없다"고 결론지었다. 투표와 관련된 메시지를 본 페이스북 사용자는 투표할 가능성이 더 높았다. 2010 년 페이스북 사용자를 대상으로 한 무작위 시험에 따르면 투표를 장려하는 메시지와 투표한 친구의 이미지를 본 사용자들 사이에서 투표율이 20% 증가(34 만 표)한 것으로 나타났다. 법학자 조너선 지트레인은 의도적으로 조작된 경우, 선거에서 "중개자가 사용자에게 서비스를 제공하는 것이 아니라, 의제를 충족시키기 위해 선택적으로 정보를 제시하는" "디지털 게리맨더링" 효과가 발샐할 수 있다고 경고했다.
2016년, 전문 네트워킹 사이트 링크드인은 검색어에 대한 응답으로 여성 이름의 남성 변형 이름을 추천하는 것이 발견되었다. 이 사이트는 남성 이름을 검색할 때는 이와 유사한 추천을 하지 않았다. 예를 들어, "Andrea"(안드레아)를 검색하면 사용자가 "Andrew"(앤드류)를 의미하는지 묻는 메시지가 표시되었지만, "Andreww"를 검색하면 사용자가 "Andrea"를 찾는 것인지 묻지 않았다. 링크드인은 이것이 사용자들이 사이트와 상호 작용을 분석한 결과라고 말했다.
2012년에는 백화점 프랜차이즈 타깃이 여성 고객이 임신 사실을 알리지 않았더라도 임신 여부를 유추할 수 있는 데이터 포인트를 수집한 후 해당 정보를 마케팅 파트너와 공유한 사실이 알려졌다. 데이터가 직접 관찰되거나 보고된 것이 아니라 예측된 것이기 때문에 회사는 해당 고객의 개인정보를 보호할 법적 의무가 없었다.
웹 검색 알고리즘도 편향적이라는 비난을 받고 있다. 구글의 검색 결과는 "레즈비언"과 같은 성 관련 검색어에서 음란물 콘텐츠에 우선순위를 둘 수 있다. 이러한 편향성은 검색 엔진이 중립적인 검색에서 인기 있지만 성적인 콘텐츠를 표시하는 데까지 확장된다. 예를 들어, "여자 운동 선수"를 검색하면 "가장 섹시한 25명의 여자 운동 선수" 기사가 첫 페이지 결과로 표시된다. 2017년 구글은 혐오 단체, 인종 차별적 견해, 아동 학대 및 음란물, 기타 불쾌하고 모욕적인 콘텐츠를 노출하는 경우에 검색 결과를 조정했다. 다른 예로는 구직 웹사이트에서 남성 지원자에게 더 높은 임금을 주는 일자리를 보여주는 것이 있다. 연구자들은 또한 기계 번역이 남성 편향적인 경향을 보인다는 사실을 확인했다. 특히 STEM 직종을 포함하여 불균형한 성별 분포와 관련된 분야에서 이러한 현상이 관찰된다. 실제로 현재 기계 번역 시스템은 여성 근로자의 실제 분포를 재현하지 못한다.
2015년에 아마존닷컴은 여성에게 불리하게 편향되어 있다는 사실을 알고, 입사 지원서를 선별하기 위해 개발한 인공지능 시스템을 중단했다. 이 채용 도구는 모든 여자 대학을 다닌 지원자와 '여성'이라는 단어가 포함된 이력서를 제외했다. 음악 스트리밍 서비스에서도 비슷한 문제가 나타났는데, 2019년 스포티파이에서 사용하는 추천 시스템 알고리즘이 여성 아티스트에 대한 편향이 있는 것으로 밝혀졌다. 스포티파이의 노래 추천에서 여성 아티스트보다 남성 아티스트를 더 많이 추천했다.
인종 및 민족 차별.
알고리즘은 의사 결정에서 인종적 편견을 모호하게 하는 방법이라는 비판을 받아왔다. 과거에 특정 인종과 민족이 취급받아온 방식 때문에 데이터에는 종종 숨겨진 편견이 포함될 수 있다. 예를 들어, 흑인은 같은 범죄를 저지른 백인보다 더 긴 형량을 받을 가능성이 높다. 이는 잠재적으로 시스템이 데이터의 원래 편견을 증폭시킨다는 것을 의미할 수 있다.
2015년, 구글은 흑인 사용자가 사진 애플리케이션의 이미지 식별 알고리즘이 자신을 고릴라로 식별했다고 불평하자 사과했다. 2010년, 니콘 카메라는 이미지 인식 알고리즘이 아시아 사용자에게 계속해서 눈을 깜박이는지를 물어 비판을 받았다. 이러한 사례는 생체 인식 데이터 세트의 편향의 산물이다. 생체 인식 데이터는 관찰되거나 추론된 인종적 특징을 포함하여 신체 측면에서 추출되며, 다음 데이터 요소로 전송될 수 있다. 음성 인식 기술은 사용자의 억양에 따라 정확도가 다를 수 있다. 이는 해당 억양을 사용하는 화자에 대한 학습 데이터가 부족하기 때문일 수 있다.
인종에 대한 생체 인식 데이터도 관찰되지 않고 추론될 수도 있다. 예를 들어, 2012년 연구에 따르면, 일반적으로 흑인과 연관된 이름은 해당 개인의 이름에 대한 경찰 기록이 있는지 여부와 관계없이 체포 기록을 암시하는 검색 결과가 나올 가능성이 더 높았다. 또한 2015년 연구에 따르면, 인종 및 직업 노출 데이터가 예측 알고리즘의 폐 기능 모형에 통합되지 않아 흑인과 아시아인의 폐 기능이 더 떨어진다고 추정한다는 사실을 발견했다.
2019년 연구에 따르면, 옵텀(Optum)에서 판매하는 의료 알고리즘이 아픈 흑인 환자보다 백인 환자를 선호한다는 사실이 밝혀졌다. 이 알고리즘은 환자가 향후 의료 시스템에 얼마나 많은 비용을 지불할 것인지를 예측한다. 그러나 흑인 환자는 같은 수의 만성 질환을 앓고 있는 백인 환자보다 연간 약 1,800달러의 의료비를 덜 부담했기 때문에, 알고리즘은 백인 환자를 훨씬 더 많은 질병을 앓고 있는 흑인 환자와 향후 비슷한 건강 문제의 위험이 있는 것으로 점수를 매겼다.
2019년 11월 UC 버클리의 연구진이 실시한 연구에 따르면 모기지 알고리즘이 라틴계와 아프리카계 미국인을 차별하는 것으로 나타났는데, 이는 대출 기관이 개인이 대출을 받을 자격이 있는지 판단하기 위해 신원 확인 수단을 사용할 수 있도록 하는 미국 공정 대출법에 근거한 '신용도'에 따라 소수 민족을 차별한 것이다. 이러한 특정 알고리즘은 핀테크 회사에 존재하며 소수 민족을 차별하는 것으로 나타났다.
법 집행 및 법적 절차.
알고리즘은 이미 법률 시스템에서 다양하게 활용되고 있다. 그 예로 미국 법원에서 피고인의 재범 가능성을 평가하는 데 널리 사용되는 상용 프로그램인 COMPAS를 들 수 있다. 프로퍼블리카는 흑인 피고인의 평균 COMPA 배정 재범 위험도가 백인 피고인보다 훨씬 높으며, 흑인 피고인이 백인 피고인에 비해 '고위험'이라는 꼬리표를 잘못 할당받을 가능성이 두 배나 높다고 주장했다.
한 가지 예가 미국의 형사 판결 및 가석방 심의 위원회에서 위험 평가를 사용하는 것이다. 판사는 수감자가 범죄를 반복할 위험을 반영하기 위해 알고리즘으로 생성된 점수를 제시받는다. 1920년부터 1970년까지 범죄자 아버지의 국적은 위험 평가 점수의 고려 대상이었다.. 오늘날 이 점수는 애리조나, 콜로라도, 델라웨어, 켄터키주, 루이지애나, 오클라호마, 버지니아, 워싱턴, 위스콘신의 판사들에게 공유된다. 프로퍼블리카의 독립적인 조사에 따르면 이 점수는 80%가 부정확하며, 흑인이 백인보다 77% 더 자주 재발할 위험이 있다고 불균형적으로 왜곡되어 있는 것으로 나타났다.
"위험, 인종 및 재범 : 예측 편향 및 이질적인 영향"을 사하기 위해 시작된 한 연구에 따르면 2년의 관찰 기간 동안 객관적으로 문서화된 재범 기록이 없음에도 불구하고 흑인 피고인이 백인 피고인보다 더 높은 위험성을 지닌 것으로 잘못 분류될 가능성이 2배(45% 대 23%) 더 높다고 주장한다.
재판 전 구금 상황에서, 한 법률 리뷰 기사는 알고리즘 위험 평가가 안면 차별적이고, 불균등한 대우를 초래하며, 좁게 조정되지 않았다고 주장하며, 이 때문에 인종에 근거한 미국 수정 헌법 제14조 평등보호조항을 위반한다고 주장했다.
온라인 혐오 발언.
2017년 페이스북 내부 문서에 따르면 온라인 혐오 발언을 제거하기 위해 설계된 페이스북 알고리즘이 불쾌한 콘텐츠를 평가할 때 흑인 어린이보다 백인 남성에게 유리하게 작용하는 것으로 나타났다. 컴퓨터 프로그램과 인간 콘텐츠 검토자의 조합으로 이루어진 이 알고리즘은 특정 하위 범주가 아닌 광범위한 범주를 보호하기 위해 만들어졌다. 예를 들어, "무슬림"을 비난하는 게시물은 차단되는 반면, "급진 무슬림"을 비난하는 게시물은 허용된다. 알고리즘의 예상치 못한 결과는 흑인 어린이에 대한 혐오 발언을 허용하는 것인데, 이는 "모든 흑인"이 아닌 흑인 "어린이" 하위 집합을 비난하기 때문이며, "모든 백인 남성"은 백인과 남성의 하위 집합으로 간주되지 않기 때문에 차단을 유발한다. 페이스북은 또한 광고 구매자가 "유대인 혐오자"를 사용자 범주로 지정할 수 있는 것으로 밝혀졌는데, 회사는 데이터 평가 및 분류에 사용되는 알고리즘의 의도하지 않은 결과라고 말했다. 또한 광고 구매자가 아프리카계 미국인이 주택 광고를 보는 것을 막을 수 있도록 설계되다.
혐오 발언을 추적하고 차단하는 데 알고리즘이 사용되지만, 일부 알고리즘은 흑인 사용자가 게시한 정보를 혐오 발언으로 표시할 가능성이 1.5배 높고, 아프리카계 미국인 영어로 작성된 경우 2.2배 더 높은 것으로 나타났다. 비방과 욕설에 대한 맥락이 없이, 심지어 그것을 해당 공동체에 다시 올렸을 때에도 표시가 붙었다.
감시 카메라 소프트웨어는 정상적인 행동과 비정상적인 행동을 구분하고 특정 시간에 특정 위치에 누가 속해 있는지 판단하는 알고리즘이 필요하기 때문에 본질적으로 정치적인 것으로 간주될 수 있다. 이러한 알고리즘이 인종적 스펙트럼에 걸쳐 얼굴을 인식하는 능력은 훈련 데이터베이스에 있는 이미지의 인종적 다양성에 의해 제한되는 것으로 나타났다. 대부분의 사진이 한 인종 또는 한 성별에 속한다면, 소프트웨어는 해당 인종 또는 성별의 다른 구성원을 더 잘 인식하는 것으로 나타났다. 그러나 이러한 이미지 인식 시스템에 대한 감사조차도 윤리적 위험성이 있으며 일부 학자들은 이 기술의 맥락이 항상 과도한 감시를 받는 커뮤니티에 불균형적인 영향을 미칠 것이라고 제안했다. 예를 들어, 2002년에 CCTV 이미지에서 개인을 식별하는 데 사용되는 소프트웨어를 분석한 결과, 범죄 데이터베이스에 대해 실행했을 때 편향성의 몇 가지 예가 발견되었다. 이 소프트웨어는 여성보다 남성을, 젊은이보다 노인을 더 자주 식별하고, 백인보다 아시아인, 아프리카계 미국인 및 기타 인종을 더 자주 식별하는 것으로 평가되었다. 2018년의 연구에 따르면, 얼굴 인식 소프트웨어는 밝은 피부(일반적으로 유럽인)의 남성을 가장 정확하게 식별하는 것으로 나타났으며, 밝은 피부의 여성은 정확도가 약간 낮았다. 피부색이 어두운 남성과 여성은 얼굴 인식 소프트웨어가 정확하게 식별할 확률이 현저히 낮았다. 이러한 차이는 이 소프트웨어를 개발하는 데 사용된 데이터 세트에서 피부색이 어두운 참가자가 과소 대표되었기 때문이다.
성소수자 공동체에 대한 차별.
2011년 게이 연결 애플리케이션인 Grindr 사용자들은 안드로이드 스토어의 추천 알고리즘이 Grindr를 성범죄자를 찾기 위해 설계된 애플리케이션과 연결하고 있다고 보고했으며, 비평가들은 동성애와 소아 성애를 부정확하게 연관시켰다고 말했다. 작가 마이크 아나니는 디 애틀랜틱애서 이러한 연관성이 동성애자들을 더욱 낙인찍는다고 주장하면서 이러한 연관성을 비판했다. 2009년 온라인 소매 업체 아마존은 알고리즘 변경으로 "성인용 콘텐츠" 블랙리스트에 성 또는 동성애 주제를 다루는 모든 책을 포함하도록 확장하여 57,000 권의 책 목록을 삭제했는데, 이 중에는 비평가들의 찬사를 받은 소설 "브로크백 마운틴" 같은 작품이 포함되었다.
2019년 페이스북에서 "내 여자 친구 사진"을 검색하면 "비키니 차림" 또는 "해변에서"와 같은 제안이 표시되는 것으로 나타났다. 반대로 "내 남자 친구의 사진"을 검색하면 결과가 나오지 않았다.
얼굴 인식 기술은 트랜스젠더 개인에게 문제를 일으키는 것으로 나타났다. 2018년에 우버가 내장 보안 조치로 구현한 얼굴 인식 소프트웨어로 인해 트랜스젠더 또는 성전환 중인 우버 운전자들이 어려움을 겪고 있다는 보고가 있었다. 이로 인해 트랜스젠더 우버 드라이버의 일부 계정이 정지되어 요금이 발생하고 일자리를 잃을 가능성도 있었는데, 이는 모두 얼굴 인식 소프트웨어가 트랜스젠더 드라이버의 얼굴을 인식하는 데 어려움을 겪었기 때문이다. 이 문제에 대한 해결책은 기계 학습 모델의 훈련 세트에 트랜스젠더를 포함하는 것으로 보이지만, 훈련 데이터에 사용하기 위해 수집된 트랜스젠더 유튜브 동영상의 경우 동영상에 포함된 트랜스젠더의 동의를 받지 않아 개인정보 침해 문제가 제기된 사례도 있었다.
또한 2017년 스탠퍼드 대학교에서는 얼굴 이미지를 기반으로 개인의 성적 지향을 감지할 수 있다고 알려진 기계 학습 시스템의 알고리즘을 테스트한 연구가 진행되었다. 이 연구의 모델은 게이와 이성애자 남성을 81%, 게이와 이성애자 여성을 74% 정확하게 구분해냈다. 이 연구는 성소수자 공동체의 반발을 불러일으켰는데, 성소수자 공동체는 이 인공지능 시스템이 개인을 자신의 의지에 반하여 "아웃팅"될 위험에 처하게 함으로써 성소수자 개인에게 미칠 수 있는 부정적인 영향에 대해 우려했다.
장애 차별.
알고리즘 공정성의 양상은 성별, 인종, 사회경제적 지위 등 다양한 편견의 측면을 기준으로 판단되지만, 장애는 종종 목록에서 제외된다. 현재 사회에서 장애인들이 직면하는 소외는 AI 시스템과 알고리즘으로 옮겨져 더 많은 배제를 야기하고 있다.