stanford-oval/wikipedia huggingface dataset:
알고리즘 편향
영향 > 성소수자 공동체에 대한 차별

2011년 게이 연결 애플리케이션인 Grindr 사용자들은 안드로이드 스토어의 추천 알고리즘이 Grindr를 성범죄자를 찾기 위해 설계된 애플리케이션과 연결하고 있다고 보고했으며, 비평가들은 동성애와 소아 성애를 부정확하게 연관시켰다고 말했다. 작가 마이크 아나니는 디 애틀랜틱애서 이러한 연관성이 동성애자들을 더욱 낙인찍는다고 주장하면서 이러한 연관성을 비판했다. 2009년 온라인 소매 업체 아마존은 알고리즘 변경으로 "성인용 콘텐츠" 블랙리스트에 성 또는 동성애 주제를 다루는 모든 책을 포함하도록 확장하여 57,000 권의 책 목록을 삭제했는데, 이 중에는 비평가들의 찬사를 받은 소설 "브로크백 마운틴" 같은 작품이 포함되었다.:5
2019년 페이스북에서 "내 여자 친구 사진"을 검색하면 "비키니 차림" 또는 "해변에서"와 같은 제안이 표시되는 것으로 나타났다. 반대로 "내 남자 친구의 사진"을 검색하면 결과가 나오지 않았다.
얼굴 인식 기술은 트랜스젠더 개인에게 문제를 일으키는 것으로 나타났다. 2018년에 우버가 내장 보안 조치로 구현한 얼굴 인식 소프트웨어로 인해 트랜스젠더 또는 성전환 중인 우버 운전자들이  어려움을 겪고 있다는 보고가 있었다. 이로 인해 트랜스젠더 우버 드라이버의 일부 계정이 정지되어 요금이 발생하고 일자리를 잃을 가능성도 있었는데, 이는 모두 얼굴 인식 소프트웨어가 트랜스젠더 드라이버의 얼굴을 인식하는 데 어려움을 겪었기 때문이다. 이 문제에 대한 해결책은 기계 학습 모델의 훈련 세트에 트랜스젠더를 포함하는 것으로 보이지만, 훈련 데이터에 사용하기 위해 수집된 트랜스젠더 유튜브 동영상의 경우 동영상에 포함된 트랜스젠더의 동의를 받지 않아 개인정보 침해 문제가 제기된 사례도 있었다.
또한 2017년 스탠퍼드 대학교에서는 얼굴 이미지를 기반으로 개인의 성적 지향을 감지할 수 있다고 알려진 기계 학습 시스템의 알고리즘을 테스트한 연구가 진행되었다. 이 연구의 모델은 게이와 이성애자 남성을 81%, 게이와 이성애자 여성을 74% 정확하게 구분해냈다. 이 연구는 성소수자 공동체의 반발을 불러일으켰는데, 성소수자 공동체는 이 인공지능 시스템이 개인을 자신의 의지에 반하여 "아웃팅"될 위험에 처하게 함으로써 성소수자 개인에게 미칠 수 있는 부정적인 영향에 대해 우려했다.
영향 > 장애 차별

알고리즘 공정성의 양상은 성별, 인종, 사회경제적 지위 등 다양한 편견의 측면을 기준으로 판단되지만, 장애는 종종 목록에서 제외된다. 현재 사회에서 장애인들이 직면하는 소외는 AI 시스템과 알고리즘으로 옮겨져 더 많은 배제를 야기하고 있다.
장애의 변화하는 성격과 주관적인 특성으로 인해 계산을 통해 해결하는 것을 더 어렵게 한다. 장애를 정의하고, 설문조사를 통해 장애의 발생률과 유병률을 수집하고, 인식을 확립하는 데 있어 역사적 깊이가 부족하기 때문에 정량화 및 계산에서의 논란과 모호성이 더해진다.  장애의 정의는 의학적 모델에서 사회적 모델로 전환하는 것으로 오랫동안 논의되어 왔는데, 이는 장애가 장애와 건강 상태보다는 사람들의 상호 작용과 환경의 장벽 사이의 불일치로 인한 결과라는 것을 입증한다. 장애는 또한 상황적 또는 일시적일 수 있으며, 지속적인 유동 상태로 간주된다. 장애는 놀랍도록 다양하며, 넓은 스펙트럼에 속하며, 각 개인에게 고유할 수 있다. 사람들의 정체성은 그들이 경험하는 특정 유형의 장애, 보조 기술의 사용 방법, 그리고 그들이 지원하는 사람에 따라 달라질 수 있다.  사람들의 경험 전반에 걸친 높은 수준의 다양성은 장애가 어떻게 나타날 수 있는지를 크게 개인화한다. 중복되는 정체성과 교차 경험은 통계와 데이터 세트에서 제외되므로, 훈련 데이터에서 과소 대표되고 존재하지 않는다. 따라서 기계 학습 모델은 불평등하게 훈련되고 인공지능 시스템은 더 많은 알고리즘 편견을 지속시킨다. 예를 들어, 음성 제어 기능 및 스마트 AI 비서 훈련에 언어 장애가 있는 사람이 포함되지 않으면 해당 기능을 사용할 수 없거나 적절한 응답을 받을 수 없게 된다.
장애를 둘러싼 고정 관념과 낙인이 여전히 존재한다는 점을 고려할 때, 이러한 식별 특성을 드러내는 민감한 특성은 방대한 사생활 침해 문제를 수반한다. 장애 정보를 공개하는 것이 금기시되고 장애인에 대한 차별을 조장할 수 있기 때문에, 알고리즘 시스템이 상호 작용할 수 있는 명시적인 장애 데이터가 부족하다. 장애인은 장애 상태를 공개할 경우 사회적 지원, 의료보험 비용, 직장 내 차별 및 기타 기본적인 필수품과 관련하여 추가적인 피해와 위험에 직면하게 된다. 알고리즘은 사회 시스템과 구조에 이미 존재하는 편견을 재현함으로써 이러한 격차를 더욱 악화시키고 있다.
영향 > 구글 검색

사용자가 최종 결과를 자동으로 생성하는 동안, 구글은 성차별적, 인종차별적 자동완성 텍스트를 삭제하지 않았다. 예를 들어, 책 《구글은 어떻게 여성을 차별하는가》에서 사피야 노블은 "흑인 소녀"를 검색하면 포르노 이미지를 표시되는 사례를 예로 들었다. 구글은 불법으로 간주되지 않는 한 해당 페이지를 삭제할 수 없다고 주장했다.
연구의 장애물

몇몇 문제가 대규모 알고리즘 편향 연구를 방해하여 학문적으로 엄격한 연구의 적용과 대중의 이해를 지연시킨다.:5
연구의 장애물 > 공정성의 정의

알고리즘 편향에 관한 문헌은 공정성의 개선에 초점을 맞춰 왔지만, 공정성의 정의는 종종 서로 호환되지 않으며 기계 학습 최적화의 현실과 호환되지 않는다. 예를 들어, 공정성을 "결과의 평등"으로 정의한다면 단순히 모든 사람에게 동일한 결과를 산출하는 시스템을 의미하겠지만, "대우의 평등"으로 정의한다면 개인 간의 차이를 명시적으로 고려할 수 있을 것이다.:2 결과적으로 공정성은 때때로 모델의 정확성과 상충되는 것으로 묘사되며, 이는 사회 복지의 우선 순위와 이러한 시스템을 설계하는 공급업체의 우선 순위 사이에 태생적인 긴장이 있음을 시사한다.:2 이러한 긴장에 대응하여 연구자들은 특정 응용과 상황에 맞춰 정의된 "공정성"과 함께 잠재적으로 편향된 알고리즘을 사용하는 시스템의 설계 및 사용에 더 많은 주의를 기울일 것을 제안했다.
연구의 장애물 > 복잡성

알고리즘 프로세스는 이를 사용하는 사람들의 이해를 넘어서는 복잡계이다.:2:7 대규모 연산은 이를 만든 사람조차도 이해하지 못할 수 있다. 현대 프로그램의 방법과 프로세스는 코드의 입력 또는 출력의 모든 순열을 알 수 없기 때문에 모호한 경우가 많다.:183 사회과학자 브뤼노 라투르는 이 과정을 "과학적이고 기술적인 작업이 그 자체의 성공으로 인해 보이지 않게되는 과정"인 블랙박스화라고 했다. "기계가 효율적으로 작동할 때, 사실 문제가 해결되면 내부 복잡성이 아닌 입력과 출력에만 집중하면 된다. 따라서 역설적으로 과학기술이 성공할수록 더 불투명하고 모호해진다." 다른 사람들은 블랙박스 비유를 비판하며 현재의 알고리즘은 하나의 블랙박스가 아니라 서로 연결된 알고리즘의 네트워크에 불과하다고 말한다.:92
이러한 복잡성의 예는 피드백 사용자 정의에 대한 입력 범위에서 찾을 수 있다. 소셜 미디어 사이트 페이스북은 2013년에 사용자의 소셜 미디어 제공 배치 순서를 결정하기 위해 최소 10만 개의 데이터 포인트를 고려했다. 또한 대규모 프로그래머 팀은 서로 상대적으로 고립되어 운영될 수 있으며, 연결된 정교한 알고리즘 내에서 작은 결정의 누적 효과를 인식하지 못할 수 있다.:118 모든 코드가 독창적인 것은 아니며 다른 라이브러리를 사용할 수 있으므로 데이터 처리와 데이터 입력 시스템 사이에 복잡한 관계의 집합이 만들어진다.:22
클릭 수, 사이트 체류 시간 및 기타 지표와 같은 사용자 상호 작용을 기반으로 한 기계 학습 및 알고리즘의 개인화를 통해 추가적인 복잡성이 발생한다.:367:7 이러한 개인적인 조정은 알고리즘을 이해하려는 일반적인 시도를 혼란스럽게 할 수 있다. 한 정체를 밝히지 않은 스트리밍 라디오 서비스는 사용자의 행동에 따라 5가지 고유의 음악 선택 알고리즘을 사용한다고 보고했다. 이로 인해 사용자마다 동일한 스트리밍 서비스에 대한 서로 다른 경험을 만들어내며, 이러한 알고리즘의 기능을 이해하기 어렵게 만든다.:5 기업들은 또한 사용자 반응에 따라 알고리즘을 미세 조정하기 위해 빈번한 A/B 테스트를 실행한다. 예를 들어, 검색 엔진 빙은 하루에 최대 천만 개의 미묘한 서비스 변형을 실행하여 각 사용 또는 사용자 간에 서로 다른 서비스 경험을 만들 수 있다.:5
연구의 장애물 > 투명성 부족

상업적 알고리즘은 독점적이며 영업 비밀로 취급될 수 있다.:2:7:183 알고리즘을 영업 비밀로 취급하는 것은 투명한 알고리즘을 통해 검색 순위를 조작하는 전술이 가능해지는 검색 엔진 같은 기업을 보호할 수 있다.:366 이로 인해 연구자들이 알고리즘이 어떻게 작동하는지 알아보기 위해 인터뷰나 분석을 수행하기 어렵게 만든다.:20 비평가들은 이러한 비밀이 알고리즘 결과물을 생성하거나 처리하는 데 사용되는 비윤리적인 방법을 모호하게 만들 수 있다고 제안한다.:369 변호사이자 활동가인 Katarzyna Szymielewicz와 같은 다른 비평가들은 투명성 부족이 종종 알고리즘 복잡성의 결과로 위장되어 기업이 자체 알고리즘 프로세스를 공개하거나 조사하지 못하도록 보호한다고 주장했다.
연구의 장애물 > 민감한 범주에 대한 데이터 부족

실제로 편견 문제를 이해하는 데 있어 중요한 장벽은 차별 금지법에 의해 보호되는 개인의 인구 통계와 같은 범주가 데이터를 수집하고 처리할 때 명시적으로 고려되지 않는 경우가 많다는 점이다. 장치 지문 인식, 유비쿼터스 컴퓨팅 및 사물 인터넷과 같이 이러한 데이터를 명시적으로 수집할 기회가 거의 없는 경우도 있다. 다른 경우에는 데이터를 제어하는 쪽에서 평판 상의 이유, 또는 책임 및 보안 위험의 증가 때문에 이러한 데이터 수집을 원하지 않을 수 있다. 또한 적어도 유럽 연합의 일반 데이터 보호 규정과 관련하여 이러한 데이터가 '특별 범주' 조항(제9조)에 해당하여 잠재적인 수집 및 처리에 더 많은 제한이 따를 수도 있다.
일부 실무자들은 편향성을 완화하기 위해 이러한 누락된 민감한 분류를 추정하고 대입하려고 시도해왔다. 예를 들자면 이름에서 민족을 추론하는 시스템을 구축하는 것이다. 그러나 이는 신중하게 수행하지 않으면 다른 형태의 편향성을 유발할 수 있다. 기계 학습 연구자들은 안전한 다자간 계산과 같은 암호화 개인 정보 보호 강화 기술을 활용하여 모델러가 이러한 데이터를 명확한 텍스트로 사용할 수 없이 알고리즘 편향을 평가하거나 완화할 수 있는 방법을 제안했다.
알고리즘 편향은 보호되는 범주 뿐만 아니라 정치적 견해와 같이 쉽게 관찰하거나 코드화할 수 없는 특성에도 영향을 줄 수 있다. 이러한 경우 쉽게 접근 가능하거나 논란의 여지가 없는 근거 진실이 거의 없으며 그러한 시스템에서 편향을 제거하는 것은 더 어렵다. 또한, 보호 범주에 대한 이해 부족으로 인해 우연에 의해 소수 민족의 주거 집단과 겹칠 수있는 자동차 사고의 과거 데이터를 기반으로 한 보험 요율과 같이 잘못된 및 우연한 상관 관계가 나타날 수 있다.
해결 방법

윤리적 AI에 관한 84개의 정책 가이드라인에 대한 연구에 따르면, 공정성과 '원치 않는 편견의 완화'가 공통적인 관심사였고, 기술적 솔루션, 투명성 및 모니터링, 구제 권리 및 감독 강화, 다양성 및 포용성 노력의 조합을 통해 해결된다는 사실을 발견했다.
해결 방법 > 기술적 해법

알고리즘 내에서 편향을 감지하고 관찰할 수 있는 방법과 도구를 만들려는 시도가 몇 가지 시도가 있었다. 이러한 새로운 분야는 일반적으로 알고리즘의 내부 프로세스가 아닌 프로그램에서 사용하는 학습 데이터에 일반적으로 적용되는 도구에 중점을 둔다. 이러한 방법은 프로그램의 출력과 유용성을 분석할 수도 있으므로 혼동 행렬 분석을 포함할 수 있다. 알고리즘의 편향성을 감지하고 위한 설명 가능한 AI 알고리즘 또는 학습 모델에서 편향성의 존재를 감지하는 방법으로 제안되었다. 기계 학습을 사용하여 편향을 감지하는 것을 "AI 감사 수행"이라고 하는데, 여기서 "감사자"는 편향을 식별하기 위해 AI 모델과 학습 데이터를 통과하는 알고리즘이다. 분류기와 같은 AI 도구에 편향이 없는지 확인하는 것은 일반적으로 다른 신호에 내포되어 있기 때문에 입력 신호에서 민감한 정보를 제거하는 것보다 더 어렵다. 예를 들어, 지원자의 취미, 스포츠, 재학 중인 학교는 분석에서 제거하더라도 소프트웨어에 성별을 드러낼 수 있다. 이 문제에 대한 해결책은 딥러닝 네트워크가 동시에 작업을 학습하도록 훈련된 대상에 대한 보호 대상 및 민감한 정보를 재구성하는 데 사용될 수 있는 정보를 지능형 에이전트가 갖지 않도록 하는 동시에 보호 대상에 대해 완전히 무관심하도록 하는 것이다. 단어 임베딩의 맥락에서 더 간단한 방법이 제안되었는데, 보호된 특성과 상관 관계가 있는 정보를 제거하는 것이다.
현재 알고리즘 제작자가 편향성 문제를 제거하고 알고리즘의 기능과 가능한 효과에 대해 (당국 또는 최종 사용자에게) 투명성을 명확히 설명하는 데 도움이 되는 방법론을 지정하는 것을 목표로 하는 새로운 IEEE 표준 초안이 작성되고 있다. 이 프로젝트는 2017년 2월에 승인되었으며 IEEE 컴퓨터 학회에서 공인한 위원회인 소프트웨어 및 시스템 엔지니어링 표준 위원회에서 후원하고 있다. 표준 초안은 2019년 6월에 투표를 위해 제출될 것으로 예상된다.
해결 방법 > 투명성 및 모니터링

알고리즘 투명성  문서를 참고하십시오.
AI에 대한 윤리 지침은 책임의 필요성을 지적하며, 결과의 해석 가능성을 개선하기 위한 조치를 취할 것을 권고한다. 이러한 해결책에는 기계 학습 알고리즘에서 "이해할 권리"를 고려하고 결정이 설명되거나 검토될 수 없는 상황에서 기계 학습 배포를 거부하는 것을 포함한다. 이를 위해 편향성 문제를 해결하는 것 이상의 이유로 "설명 가능한 AI"를 위한 움직임이 이미 DARPA와 같은 조직 내에서 진행되고 있다. 예를 들어, 프라이스워터하우스쿠퍼스(PwC)는 결과 결과를 모니터링하는 것이 시스템의 단독 구성 요소가 결과를 왜곡할 경우 격리 및 종료할 수 있도록 시스템을 설계하는 것을 의미한다고 제안한다.
투명성을 향한 초기 접근 방식에는 알고리즘의 오픈 소스화가 포함되었다. 소스 코드 호스팅 시설을 통해 소프트웨어 코드를 조사하고 개선 사항을 제안할 수 있다. 그러나 이러한 접근 방식이 반드시 의도한 효과를 내는 것은 아니다. 기업과 조직은 가능한 모든 문서와 코드를 공유할 수 있지만, 청중이 주어진 정보를 이해하지 못하면 투명성이 확립되지 않는다. 따라서 투명성과 관련하여 관심 있는 비판적 청중의 역할을 살펴볼 가치가 있다. 알고리즘은 비판적 청중 없이는 책임을 질 수 없다.
해결 방법 > 구제받을 권리

규제 관점에서 토론토 선언은 알고리즘 편향으로 인한 피해에 인권 프레임워크를 적용할 것을 요구한다. 여기에는 이러한 알고리즘 설계자를 대신하여 실사에 대한 기대를 법제화하고, 사적 행위자가 공익을 보호하지 못할 때 책임을 지는 것을 포함하며, 이러한 권리는 복잡하게 얽혀 있는 프로세스 내에서 책임을 결정하는 복잡성으로 인해 가려질 수 있음을 지적한다. 다른 사람들은 명확한 책임 보험 메커니즘의 필요성을 제안한다.
해결 방법 > 다양성 및 포용성

인공지능 시스템의 설계가 주로 백인 남성 엔지니어의 영역이라는 우려 속에서 많은 학자들은 인공지능 시스템을 설계하는 사람들의 범위를 넓혀 알고리즘 편향을 최소화할 수 있다고 제안했다. 예를 들어, 기계 학습 엔지니어의 12%만이 여성이며, 흑인 인공지능 리더들은 이 분야의 "다양성 위기"를 지적하고 있다. Black in AI나 Queer in AI 같은 그룹은 AI 커뮤니티보다 포용적인 공간을 만들고 AI 연구의 궤적을 통제하는 기업의 종종 유해한 욕구에 맞서기 위해 노력하고 있다. 단순한 포용성 노력에 대한 비판은 다양성 프로그램이 중복되는 형태의 불평등을 해결할 수 없으며 알고리즘 설계에 보다 신중한 교차 성 렌즈를 적용 할 것을 촉구했다.:4 케임브리지 대학의 연구원들은 인종적 다양성을 다루는 것이 인공지능 문화의 "백인성"으로 인해 방해받았다고 주장했다.
해결 방법 > 학제간 협업 및 협력

AI 시스템 개발에서 학제간 통합과 협업은 알고리즘 편향을 해결하는 데 중요한 역할을 할 수 있다. 컴퓨터 과학 이외의 분야에서 얻은 통찰, 전문 지식, 관점을 통합하면 데이터 기반 솔루션이 사회에 미치는 영향을 보다 잘 이해할 수 있다. 인공지능 연구에서 이러한 예로는 사회적 영향과 관련된 AI 기반 솔루션을 개발할 때 협업을 촉진하기 위해 제안된 프레임워크인 PACT(Participatory Approach to enable Capabilities in communiTies, 커뮤니티의 역량 강화를 위한 참여적 접근법)가 있다. 이 프레임워크는 AI4SG(AI for Social Good) 프로젝트 작업 시 이해 관계자 참여에 대한 기본 원칙을 식별한다. PACT는 인간 중심의 AI 솔루션 설계에서 탈식민화와 권력 이동 노력의 중요성을 재확인하려고 시도한다. 이와 관련한 학술적 이니셔티브로는 다학제간 협력을 촉진하는 것을 목표로 하는 스탠포드 대학교의 인간 중심 인공지능 연구소(Institute for Human-Centered Artificial Intelligence)가 있다. 이 연구소의 사명은 인간의 조건을 개선하기 위해 인공지능 연구, 교육, 정책 및 실습을 발전시키는 것이다.
외부 전문가 및 다양한 이해 관계자와의 협업을 통해 윤리적이고 포용적이며 책임감 있는 지능형 시스템 개발을 용이하게 한다. 윤리적 고려 사항을 통합하고, 사회적, 문화적 맥락을 이해하고, 인간 중심의 설계를 촉진하고, 기술 전문 지식을 활용하며, 정책 및 법적 고려 사항을 다룬다. AI 시스템의 편향을 효과적으로 완화하고 AI 기술이 공정하고 투명하며 책임감 있게 작동하도록 보장하려면 여러 분야 간의 협업이 필수적이다.
규정 > 유럽

2018년에 시행된 유럽 연합의 개정된 데이터 보호 제도인 일반 데이터 보호 규정(GDPR)은 제22조에서 "프로파일링을 포함한 자동화된 개인 의사 결정"을 다루고 있다. 이 규정은 동의, 계약 또는 회원국 법률에 의해 명시적으로 승인되지 않는 한 개인에게 '중대한' 또는 '법적' 영향을 미치는 자동화된 결정을 '전적으로' 금지하고 있다. 허용되는 경우, 휴먼인더루프(human-in-the-loop)에 대한 권리, 도달한 결정에 대한 설명에 대한 구속력이 없는 권리 등의 안전장치를 마련해야 한다. 이러한 규정은 일반적으로 새로운 규정으로 간주되지만, 1995년부터 유럽 전역에 걸쳐 데이터 보호 지침 제15조에 거의 동일한 조항이 존재해 왔다. 1970년대 후반부터 프랑스 법률에 자동화된 결정 규칙과 안전장치가 존재했다.
GDPR은 프로파일링 시스템에서 알고리즘 편향을 다루며, 71조에서 이를 제거할 수있는 통계적 접근 방식을 직접 다루고 있다.
통제자는 프로파일링에 적절한 수학적 또는 통계적 절차를 사용하고, 특히 출신 인종 또는 민족, 정치적 견해, 종교 또는 신념, 노동 조합 가입, 유전적 또는 건강 상태 또는 성적 지향에 근거하여 자연인에 대한 차별적 영향을 방지하는 적절한 기술적 및 조직적 조치를 시행해야 한다.
71조의 설명을 요구할 권리에 구속력이 없는 것과 마찬가지로, 이 조항의 문제는 구속력이 없다는 것이다. 이는 데이터 보호법 이행에 대해 조언한 29조 작업반에 의해 요구 사항으로 취급되었지만, 실질적인 차원은 분명하지 않다. 고위험 데이터 프로파일링에 대한 데이터 보호 영향 평가(데이터 보호 내의 다른 선제적 조치와 함께)는 소비자가 불만을 제기하거나 변경을 요청하는 대신 알고리즘을 배포하는 사람들의 행동을 제한하기 때문에 알고리즘 차별 문제를 해결하는 더 나은 방법일 수 있다는 주장이 제기되었다.
규정 > 미국

미국에는 알고리즘 편향을 통제하는 일반 법률이 없으며 산업과 업종별로 알고리즘 사용 방법에 따라 다를 수 있는 다양한 주 및 연방법을 통해 문제에 접근한다. 많은 정책이 자체적으로 시행되거나 연방거래위원회에 의해 통제된다. 2016년 오바마 행정부는 정책 입안자들이 알고리즘에 대한 비판적 평가를 하도록 안내하기 위한 "국가 인공지능 연구 및 개발 전략 계획"을 발표했다. 이 계획은 연구자들에게 "이러한 시스템의 행동과 의사 결정이 투명하고 인간이 쉽게 해석할 수 있도록 설계하여 이러한 편견을 학습하고 반복하는 것이 아니라 포함할 수있는 편견이 있는지 검사할 수 있도록 설계"할 것을 권장했다. 이 보고서는 지침으로만 활용될 뿐 법적 선례를 만들지는 못했다.:26
2017년 뉴욕시는 미국 최초의 알고리즘 책임 법안을 통과시켰다. 2018년 1월 1일에 발효된 이 법안은 "기관 자동화된 의사 결정 시스템에 대한 정보를 대중과 공유하는 방법과 기관 자동 결정 시스템에 의해 사람들이 피해를 입는 사례를 해결하는 방법에 대한 권고 사항을 제공하는 전문 위윈회의 구성"을 요구했다. 전문 위원회는 2019년에 추가 규제 조치를 위한 조사 결과와 권장 사항을 제시해야 한다.
규정 > 인도

2018년 7월 31일, 개인 데이터 법안 초안이 발표되었다. 이 초안은 데이터의 저장, 처리 및 전송에 대한 표준을 제안한다. 알고리즘이라는 용어를 사용하지 않았지만 "수탁자가 수행한 모든 처리 또는 모든 종류의 처리로 인한 피해"에 대한 조항을 규정하고 있다. 또한 부적절한 데이터 사용으로 인해 발생할 수 있는 피해의 원인으로 "데이터 주체에 대한 평가 결정으로 인한 서비스, 혜택 또는 이익의 거부 또는 철회" 또는 "차별적 대우"를 정의하고 있다. 또한 "인터섹스 상태"의 사람들에 대한 특별 조항도 있다.
같이 보기

인공지능윤리
공정성 (기계 학습)
환각 (인공지능
AI 정렬
예측 치안
간단한 컴퓨터 프로그램이 의사 결정을 내리는 방법을 보여주는 1969년 다이어그램으로, 매우 간단한 알고리즘을 보여준다.
이 천공카드는 오래된 메인프레임 컴퓨터에 소프트웨어를 로드하는 데 사용되었다. 각 바이트(예: 문자 'A')는 구멍을 뚫어 입력한다. 현대의 컴퓨터는 더 복잡하지만, 데이터를 수집하고 처리할 때 이러한 인간의 의사 결정 과정을 반영한다.:70:16
감시 카메라에 사용되는 얼굴 인식 소프트웨어는 백인보다 아시아인과 흑인을 인식하는 데 편향을 보이는 것으로 밝혀졌다.:191
부여 증산성

| --- | --- |
 대한민국의 사적

종목: 사적 (구)제156호  (1967년 3월 25일 지정)
면적: 29,283m2
시대: 백제
위치
부여 증산성
주소: 충청남도 부여군 규암면 신성리 산86번지
좌표: 북위 36° 19′ 19″ 동경 126° 51′ 51″﻿ / ﻿북위 36.32194°  동경 126.86417° ﻿ / 36.32194; 126.86417
정보: 국가유산청 국가유산포털 정보
부여 증산성(扶餘 甑山城)은 충청남도 부여군 규암면에 있는 백제의 성곽이다. 1967년 3월 25일 대한민국의 사적 제156호로 지정되었다.
개요

흰 돌을 사용하여 쌓은 성이 마치 시루를 올려놓고 시루테를 바른 듯 하다고 하여 시루메산성이라고도 부르는 백제 산성이다.
성왕 16년(538) 수도를 사비로 옮기고 나서 수도를 보호하기 위해 쌓은 것으로 추정된다. 둘레는 약 600m이고 높이는 2∼3m 정도로 거의 무너진 상태이지만, 성의 남쪽부분은 비교적 잘 남아 있다. 서쪽·남쪽·북쪽에 각각 문이 있던 흔적이 남아있다. 성벽은 자연 지세를 이용하여 쌓았지만 다른 성에 비하면 정교하지 못한 편이다. 성 안에는 백제토기와 기와조각이 많이 남아 있으며 동쪽에는 우물터가 있다. 은산면에 있는 이중산성·서쪽의 옥녀봉산성과 서로 바라 보면서 연결되어있다.
증산성은 신라 문무왕 12년(672) 정월에 백제 고성성을 쳐서 이겼다는 기록에서 나타나는 고성성으로도 여겨지이며, 백제 부흥운동군의 한 거점으로도 여겨지는 중요한 산성이다.
참고 자료

부여 증산성 - 국가유산청 국가유산포털
| v t e충청남도의 성(城) |
| --- | --- |
공원 | 교통 | 도로 | 도서관 | 동굴 | 박물관 | 산 | 서원 | 섬 | 성 | 온천 | 저수지 | 종합병원 | 축제 | 하천 | 해수욕장
공주시:  공산성  광정리 산성  단지리 산성  만수리 산성  무성산성  봉곡산성  송곡리산성  수촌리성  신풍산성  양화산성  오인리산성  옥녀봉성  옥성리성  용성  율정리산성  은룡리산성  이인산성  중장리산성  한산성 
금산군:  묵산리산성  백령성  자지성  진산읍성  추정리산성 
논산시:  노성산성  모촌리산성  불암산성  산직리산성  신흥리산성  외성산성  의성리산성  청동리산성  황산성  황화산성 
당진시:  당산성  당진포진성  면천읍성  몽산성  성동리산성  성상리산성  운정리산성 
보령시:  고남산성  남포읍성  대봉산성  보령읍성  삼곡리산성  소송리내송성  아현산성  진당산성  창암리성  충청수영성  황율리성 
부여군:  가림성  구룡산성  금성산성  나성  논치산성  누르개산성  미녀봉산성  반산성  봉황산성  부소산성  부장산성  북고리증산성  북촌리산성  사자봉산성  석성산성  시랭이산성  외리산성  울성산성  은산당산성  이목치산성  이중산성  점상리산성  증산성  청마산성  토성산성  토정산성  학동산성 
서산시:  고구산성  공림산성  금굴산성  달산리성  대미산성  반양리산성  부성산성  북방산성  북주산성  서방산성  성왕산성  신송리산성  양잠리성  연암산성  웅소리산성  진장리석성  해미읍성 
서천군:  건지산성  남산성  둔덕리산성  만덕리산성  비인읍성  산천리산성  서천읍성  성북리산성  월명산성  장구리산성  장암진성  장포리산성  지원리산성  한산읍성  한성리산성 
아산시:  군덕리산성  기산산성  배방산성  백암리산성  성내리산성  수한산성  신창학성  영인산성  용와산성  천덕산성  학성산성 
예산군:  금후산성  대천태산성  사동리산성  상장리성  상중리성  소천태산성  신속리성  예산산성  임존성 
천안시:  광덕산성  구룡리산성  국사봉산성  대성산성  도원산성  동성산성  두남리산성  동림산성  망경산성  백석동토성  사산성  세성산성  서리산성  성거산성  성산산성  용와산성  위례성  일봉산성  작성산성  청당동산성  흑성산성 
청양군:  갓골토성  계봉산성  군량리산성  두률성  두릉산성  방한리산성  백곡리산성  별초막토성  우산성  제미재토성  태봉산성  테뫼산성 
태안군:  두야리산성  백화산성  서방현성  소근진성  수룡리산성  안흥성  양잠리산성  태안읍성  토성산성  한의산성 
홍성군:  결성읍성  석성산성  소구니산성  신금성  장곡산성  태봉산성  학성산성  홍주읍성 
서울특별시 | 부산광역시 | 대구광역시 | 인천광역시 | 광주광역시 | 대전광역시 | 울산광역시 | 세종특별자치시 경기도 | 강원특별자치도 | 충청북도 | 충청남도 | 전북특별자치도 | 전라남도 | 경상북도 | 경상남도 | 제주특별자치도
개따오기속

|  개따오기속 |
| --- | --- |
 인도검은따오기
생물 분류ℹ️
계:: 동물계
문:: 척삭동물문
강:: 조강
목:: 사다새목
과:: 저어새과
아과:: 따오기아과
속:: 개따오기속(Pseudibis) Hodgson, 1844
개따오기속(학명: Pseudibis)은 사다새목 저어새과 따오기아과에 속한 새의 속이다.
종류

개따오기속 Pseudibis
인도검은따오기,  Pseudibis papillosa
흰어깨따오기,  Pseudibis davisoni
아라곤 국왕

아라곤 국왕(스페인어: Rey de Aragón 레이 데 아라곤[*], 카탈루냐어: Rei d'Aragó 레이 다라고, 아라곤어: Rei d'Aragón 레이 다라곤)은 아라곤 왕국의 군주다.
히메네스 왕조

레미로 1세(1035-1063)
산초 라미리스(1063–1094)
페로 1세(1094-1104)
알폰소 1세(1104-1134)
레미로 2세(1134-1137)
페이로넬라(1137-1162)
섭정 라몬 베렝가르 4세, 바르셀로나 백작이자 페이로넬라의 부군.
바르셀로나 가

알리폰소 2세 시인왕(1162-1196)
페로 2세 가톨릭왕(1196-1213)
차이메 1세 정복왕 또는 숙녀들의 남성(1214-1276)
페로 3세(1276–1285)
알리폰소 3세(1285-1291)
차이메 2세 공정왕(1291–1327)
알리폰소 4세(1327-1336)
페로 4세 예식왕(1336–1387)
추안 1세 엽사왕(1387-1396)
마르틴 1세(1396-1410), 시칠리아 왕 마르티노 2세(1409-1410)
공위기

1410년에 마르틴 1세가 사망한 이후 2년동안 공위기였다. 공위기는 1412년에 끝난다.
이때 아라곤 국왕 선거에 출마한 사람들은 다음과 같다.
루나 백작이자 시칠리아의 마르티노 1세의 사생아 파드리케
우르헬 백작이자 아라곤의 알폰소 4세의 증손자 하이메
하이메 2세의 손자이자 간디아의 공작인 알폰소
칼라브리아 공작이자 아라곤의 후안 1세의 외손자 루이 3세 당주 공작
아라곤의 페드로 4세의 외손자이자 카스티야의 왕자인 페르난도 데 트라스타마라
이 중 페르난도 왕자가 1412년 총 9표 중 6표를 받고 당선된다.
트라스타마라 가

페르난도 1세(1412년–1416년)
알폰소 5세(1416년–1458년)
후안 2세(1458년–1479년)
페르난도 2세(1479년–1516년), (카스티야-레온 왕 (페르난도 5세)(1474년 - 1516년), 상 나바라의 왕 (페르난도 1세)(1474-1504)과 시칠리아 왕(페르디난도 1세(1474-1516), 나폴리왕(페르디난도 1세)(1504-1516) 겸임.)
후아나(1516년–1555년),(카스티야-레온 여왕(부군 펠리페 1세와 공동왕), 시칠리아 왕(조반니) 과 나폴리왕(조반니) 겸임.)
합스부르크 가

카를로스 1세(1516–1554)(카스티야-레온 왕, 시칠리아 왕, 나폴리 왕, 황제(1519-1558) 및 독일왕(1519-1558)과 이탈리아왕(1519-1558) 겸임.)
부르봉 가

펠리페 4세
합스부르크 가

카를로스 3세
같이 보기

아스투리아스 국왕
카스티야의 군주 목록
레온 국왕
나바라 국왕
스페인 국왕 목록
| v t e아라곤 국왕 |
| --- | --- | --- |
Rei d'Aragón
| 시메나가 |  레미로 1세  산초  페로 1세  알리폰소 1세 로 바탈레로  레미로 2세 오 몬체  페이로넬라  |  |
| 바르셀로나가 |  알리폰소 2세 오 카스토  페로 2세 오 카톨리코  차이메 1세 오 콘퀘리도르  페로 3세 로 그란  알리폰소 3세 오 리베랄  차이메 2세 엘 후스트  알리폰소 4세 로 부에노  페로 4세 오 케리모니오소  추안 1세 오 카사타이레  마르틴 루마니스타  |  |
| 트라스타마라가 |  페란도 1세 단테케라  알리폰소 5세 로 마그나니모  추안 2세 엘 센세페  페란도 2세 오 카톨리코  추아나 라 로카  |  |
| 압스부루고가 |  카를로스 1세 엘 케사르  펠리페 1세 로 푸르덴트  펠리페 2세 오 피아도소  펠리페 3세 로 그란  카를로스 2세 엘 헤치사도  |  |
 « 나바라 국왕  스페인 국왕 »
산루이스 FC

산루이스 FC(San Luis F.C.)는 멕시코 산루이스포토시주 산루이스포토시를 연고로 했던 축구 클럽이다. 이 팀은 1957년에 창단되었다. 이 팀은 2013년에 해체되었으며, 이후 치아파스 FC와 합병하였다.
선수 명단 > 역대

분류:산루이스 FC의 축구 선수  문서를 참고하십시오.
후쿠다 야스오

| --- | --- |
 후쿠다 야스오 福田 康夫
 내각 공보실에서 공표한 초상
일본의 제91대 내각총리대신    
임기: 2007년 9월 26일~2008년 9월 24일
전임: 아베 신조(제90대)
후임: 아소 다로(제92대)
신상정보
출생일: 1936년 7월 16일(1936-07-16)(88세)
출생지: 일본 도쿄부 도쿄시
정당: 자유민주당
배우자: 후쿠다 기요코
자녀: 후쿠다 다쓰오 (장남)
웹사이트: www.y-fukuda.or.jp
| 후쿠다 야스오 |
| --- | --- |
일본어식 한자 표기: 福田康夫 
가나 표기: ふくだやすお 
국립국어원 표준 표기: 후쿠다 야스오
통용식 표기: 후쿠다 야스오
로마자: Yasuo Fukuda
후쿠다 야스오(일본어: 福田 康夫, 1936년 7월 16일 ~ )는 일본의 자유민주당(자민당) 소속 정치인으로 일본의 91대 내각총리대신이었다. 7선 의원이었으며, 그의 아버지는 제67대 내각총리대신을 지낸 후쿠다 다케오이다.
인물

도쿄도 도쿄시에서 태어났으며, 군마현 다카사키시로 옮겨 자랐다. 1959년 와세다 대학 정치경제학부를 졸업, 1959년부터 1976년까지 마루젠 석유에 입사하여 근무 하였고 과장으로 퇴직하였다. 아버지 후쿠다 다케오(福田赳夫) 내각총리대신의 비서관 등을 지내다가, 1990년 중의원 의원 선거에 당선되었다.
1995년 외무 정무 차관을 지냈으며, 1997년 자민당 외교부장 등을 역임하였고 2000년 모리 요시로 내각과 고이즈미 준이치로 내각에서 관방장관을 맡았다. 국민연금 보험료 미납 사건으로 2004년 5월 사임하였다. 일본의 역대 관방장관으로서는 최장기간인 1,289일간을 재임하였다.
2007년 9월 23일, 아소 다로 간사장을 제치고 자민당 제22대 총재 선거에서 당선되었으며, 9월 25일에 열린 중의원의 차기 총리 지명 선거에서 총 투표수 477표 가운데 338표를 받아 제91대 일본 총리대신으로 지명되었다.
하지만 지지도가 30%대로 떨어지는 등 고전을 면치 못하다가, 2008년 9월 1일 밤 9시 30분 긴급 기자회견을 열어 사임 의사를 공식 표명했다. 이로써 후쿠다 정권은 새로운 아소 정권의 등장으로 1년 만에 막을 내렸다.
2008년에는 2월 25일에 있었던 이명박 대통령 취임식에 참석하고 한일정상회담을 하기 위해 2009년 5월 29일에는 노무현 전 대통령 국민장 영결식에 후지이 히로히사 재무상(당시 민주당 최고고문) 등과 함께 조문사절로 한국을 방문하였다.
주요 경력

1959년 3월 - 와세다 대학 졸업 및 마루젠석유 입사
1976년 11월 - 후쿠다 다케오 의원 비서관, 이듬해 부친의 총리 당선 후 총리 비서관
1990년 2월 - 군마현에서 중의원 당선(현재 6선)
1995년 8월 - 무라야마 내각에서 외무정책차관
1997년 9월 - 자민당 부간사장
2000년 7월 - 자민당 정조부회장
2000년 10월 - 모리 내각에서 관방장관으로 입각
2004년 5월 - 국민연금 보험료 미납문제로 관방장관 사임
2004년 10월 - 모리파 대표간사
2007년 9월 23일 - 자민당 총재 선거에서 당선
2007년 9월 25일- 총리 대신으로 지명
2008년 9월 2일 - 총리 사임 의사를 공식 표명
2008년 9월 24일 - 총리직을 사임
같이 보기

후쿠다 야스오 내각
후쿠다 야스오 내각 개조내각
역대 선거 결과

2007년 미국 방문 당시 정상회담 후 부시 대통령과 악수를 나누는 후쿠다 총리.
트와일라잇 (영화 시리즈)

| 트와일라잇 영화 시리즈 The Twilight Saga film series |
| --- | --- |

감독: 트와일라잇:  캐서린 하드윅 뉴문:  크리스 와이츠 이클립스:  데이비드 슬레이드  브레이킹 던 - 1부·2부:  빌 콘던
배급사: 서밋 엔터테인먼트
개봉일: 트와일라잇: 2008년 11월 21일  뉴문: 2009년 11월 20일  이클립스: 2010년 6월 30일  브레이킹 던 - 1부: 2011년 11월 18일  브레이킹 던 - 2부: 2012년 11월 16일
시간: 490분
언어: 영어
제작비: $265,000,000
흥행수익: $2,508,379,328
트와일라잇(Twilight)은 스테프니 메이어(Stephenie Meyer)가 쓴 트와일라잇 시리즈를 기반으로 만들어진 영화이다.
배역

이 부분의 본문은 트와일라잇의 출연 배우 목록입니다.
시리즈

트와일라잇
뉴문
이클립스
브레이킹 던 - 1부
브레이킹 던 - 2부
사운드트랙

트와일라잇 (사운드트랙)
뉴문 (사운드트랙)
이클립스 (사운드트랙)
브레이킹 던 - 1부 (사운드트랙)
브레이킹 던 - 2부 (사운드트랙)
같이 보기

로즈웰 (드라마)
유고슬라비아 1부 리그

유고슬라비아 1부 리그(Yugoslav Prva Liga)는 과거 유럽에 있었던 축구 리그로, 유고슬라비아 왕국(1918-1941), 유고슬라비아 사회주의 연방 공화국(1945-1991), 유고슬라비아 연방 공화국(1991-2003)이 2003년에 세르비아 몬테네그로로 국명을 변경하기 전까지의 리그이다.
유고슬라비아 왕국 (1923-1940) > 역대 우승 팀

각 클럽의 국적은 현재의 국적을 표시하였음.
| 시즌 | 우승 팀 | 준우승 팀 |
| --- | --- | --- |
| 19231 |  그라잔스키 자그레브 |  SASK 사라예보 |
| 19241 |  유고슬라비아 베오그라드 |  하이두크 스플리트 |
| 19251 |  유고슬라비아 베오그라드 |  그라잔스키 자그레브 |
| 19261 |  그라잔스키 자그레브 |  유고슬라비아 베오그라드 |
| 1927 |  하이두크 스플리트 |  BSK 베오그라드 |
| 1928 |  그라잔스키 자그레브 |  하이두크 스플리트 |
| 1929 |  하이두크 스플리트 |  BSK 베오그라드 |
| 1930 |  콘코르디아 자그레브 |  유고슬라비아 베오그라드 |
| 1930-31 |  BSK 베오그라드 |  콘코르디아 자그레브 |
| 1931-321 |  콘코르디아 자그레브 |  하이두크 스플리트 |
| 1932-33 |  BSK 베오그라드 |  하이두크 스플리트 |
1933-34: 유고슬라비아의 국왕 알렉산더 1세의 암살로 개최되지 않음
| 1934-35 |  BSK 베오그라드 |  유고슬라비아 베오그라드 |
| 1935-36 |  BSK 베오그라드 |  슬라비아 루카비차 |
| 1936-37 |  그라잔스키 자그레브 |  하이두크 스플리트 |
| 1937-38 |  HASK 자그레브 |  BSK 베오그라드 |
| 1938-39 |  BSK 베오그라드 |  그라잔스키 자그레브 |
| 1939-40 |  그라잔스키 자그레브 |  BSK 베오그라드 |
1: 컵 대회 형식
유고슬라비아 사회주의 연방 (1946-1992) > 역대 우승 팀

각 클럽의 국적은 현재의 국적을 표시하였음.
| 시즌 | 우승 팀 | 준우승 팀 |
| --- | --- | --- |
| 1946-47 |  파르티잔 |  디나모 자그레브 |
| 1947-48 |  디나모 자그레브 |  하이두크 스플리트 |
| 1948-49 |  파르티잔 |  츠르베나 즈베즈다 |
| 1950 |  하이두크 스플리트 |  츠르베나 즈베즈다 |
| 1951 |  츠르베나 즈베즈다 |  디나모 자그레브 |
| 1952 |  하이두크 스플리트 |  츠르베나 즈베즈다 |
| 1952-53 |  츠르베나 즈베즈다 |  하이두크 스플리트 |
| 1953-54 |  디나모 자그레브 |  파르티잔 |
| 1954-55 |  하이두크 스플리트 |  OFK 베오그라드 |
| 1955-56 |  츠르베나 즈베즈다 |  파르티잔 |
| 1956-57 |  츠르베나 즈베즈다 |  보이보디나 |
| 1957-58 |  디나모 자그레브 |  파르티잔 |
| 1958-59 |  츠르베나 즈베즈다 |  파르티잔 |
| 1959-60 |  츠르베나 즈베즈다 |  디나모 자그레브 |
| 1960-61 |  파르티잔 |  츠르베나 즈베즈다 |
| 1961-62 |  파르티잔 |  보이보디나 |
| 1962-63 |  파르티잔 |  디나모 자그레브 |
| 1963-64 |  츠르베나 즈베즈다 |  OFK 베오그라드 |
| 1964-65 |  파르티잔 |  FK 사라예보 |
| 1965-66 |  보이보디나 |  디나모 자그레브 |
| 1966-67 |  FK 사라예보 |  디나모 자그레브 |
| 1967-68 |  츠르베나 즈베즈다 |  파르티잔 |
| 1968-69 |  츠르베나 즈베즈다 |  디나모 자그레브 |
| 1969-70 |  츠르베나 즈베즈다 |  파르티잔 |
| 1970-71 |  하이두크 스플리트 |  젤레즈니차르 |
| 1971-72 |  젤레즈니차르 |  츠르베나 즈베즈다 |
| 1972-73 |  츠르베나 즈베즈다 |  벨레주 모스타르 |
| 1973-74 |  하이두크 스플리트 |  벨레주 모스타르 |
| 1974-75 |  하이두크 스플리트 |  보이보디나 |
| 1975-76 |  파르티잔 |  하이두크 스플리트 |
| 1976-77 |  츠르베나 즈베즈다 |  디나모 자그레브 |
| 1977-78 |  파르티잔 |  츠르베나 즈베즈다 |
| 1978-79 |  하이두크 스플리트 |  디나모 자그레브 |
| 1979-80 |  츠르베나 즈베즈다 |  FK 사라예보 |
| 1980-81 |  츠르베나 즈베즈다 |  하이두크 스플리트 |
| 1981-82 |  디나모 자그레브 |  츠르베나 즈베즈다 |
| 1982-83 |  파르티잔 |  하이두크 스플리트 |
| 1983-84 |  츠르베나 즈베즈다 |  파르티잔 |
| 1984-85 |  FK 사라예보 |  하이두크 스플리트 |
| 1985-86 |  파르티잔 |  츠르베나 즈베즈다 |
| 1986-87 |  파르티잔 |  벨레주 모스타르 |
| 1987-88 |  츠르베나 즈베즈다 |  파르티잔 |
| 1988-89 |  보이보디나 |  츠르베나 즈베즈다 |
| 1989-90 |  츠르베나 즈베즈다 |  디나모 자그레브 |
| 1990-91 |  츠르베나 즈베즈다 |  디나모 자그레브 |
| 1991-92 |  츠르베나 즈베즈다 |  파르티잔 |
파생 리그

유고슬라비아 1부 리그의 1990-91시즌이 모든 연방의 클럽이 참가하여 평상시의 구성으로 진행된 마지막 시즌이었다. 유고슬라비아가 해체되면서 1부 리그 역시 각 국가별로 갈라지게 되었다.
파생 리그 > 슬로베니아와 크로아티아의 분리

1991년 6월에 슬로베니아가 독립을 선언하고 뒤이어 10월에는 크로아티아가 독립을 선언하였다. 이에 따라 유고슬라비아 축구 협회에서 각각의 축구 협회가 독립적으로 갈라지게 되었고, 그리하여 각국만의 리그를 시작하게 되었다. 슬로베니아 1부 리그는 1991년 후반에 시작되었고, 크로아티아 1.HNL은 1992년에 첫 시즌을 시작하였다. 크로아티아 독립 전쟁에 영향을 받아서 첫 시즌은 1992년 2월부터 6월까지의 1년제 리그로 진행되었다. 두 리그는 모두 현재까지 계속되고 있다.
파생 리그 > 1991-1992 시즌

유고슬라비아 1부 리그의 1991-92시즌은 비록 슬로베니아와 크로아티아 클럽들은 대회에 참가하지 않았지만 유고슬라비아 사회주의 연방 공화국이라는 국명으로서의 마지막 시즌이었다. 그러나 보스니아 내전이 시즌 말에 발발하는 바람에 보스니아 클럽들은 시즌을 끝까지 치르지 못하였다. (사라예보의 FK 젤레즈니차르 사라예보만이 총 33경기 가운데 절반인 17경기를 치렀고, FK 슬로보다 투즐라와 FK 벨레주 모스타르는 몇 경기 만에 시즌을 그만두었다.) 크르베나 즈베즈다가 마지막 유고슬라비아 1부 리그의 우승컵을 차지하였다.
파생 리그 > 북마케도니아와 유고슬라비아 연방

1991-92 시즌이 끝난 이후 북마케도니아 1부 리그가 다음 시즌부터 설립됨에 따라 북마케도니아 클럽들은 유고슬라비아 1부 리그를 떠났다. 1992-93 시즌에 보스니아 클럽들은 단 한 팀만 제외하고 전쟁이 가속화됨에 따라 참가가 중단되었다. FK 보라츠 바냐 루카가 예외에 해당하는 단 한 팀이었는데, 연고지를 임시로 베오그라드로 옮겨 새롭게 국명을 유고슬라비아 연방 공화국으로 바뀐 뒤의 첫 시즌에 참가하였다. 이 리그는 2002-03시즌까지 계속되었다. 이후에는 세르비아 몬테네그로 1부 리그로 명칭을 변경하였다. 결국, 2006년 6월에 몬테네그로가 독립을 선언하고 평화적으로 연방을 떠나게 되자, 2006-07시즌부터 몬테네그로는 자국 클럽으로만 구성된 자국 리그를 개별적으로 시작되었다. 반면에 세르비아 몬테네그로의 정식 상속국인 세르비아는 1992년부터 계속된 1부 리그(Prva liga)란 이름을 2005년 여름에 세르비아 수페르리가로 변경하였다.
파생 리그 > 보스니아 헤르체고비나

그동안, 보스니아 헤르체고비나에서의 축구 상황은 복잡해져갔다. 그 이유는 1992년에 시작된 전쟁이 확대되면서 1992-93시즌에는 아무런 경기도 없었기 때문이었다.
1993년 후반에 보스니아의 일부지역에서 축구 대회를 다시 시작하였다. 하지만 보스니아는 민족에 따라 지역이 구분되어 있었기 때문에 1993년에 시작된 헤르체그-보스니아 1부 리그에는 보스니아에 있는 크로아티아계 클럽들이 참가하였다.
보스니아 헤르체고비나의 보스니아인들은 1994년의 반시즌을 시작으로 1995-96시즌까지 보스니아 리그를 조직하였다.
세르비아계 보스니아인들 역시 스르프스카 공화국 1부 리그를 같은 해에 시작하였다.
이로써 보스니아 헤르체고비나에는 세 개의 독립된 축구 리그가 존재하게 되었다. 이는 UEFA에서 관장하던 보스니아 헤르체고비나 프리미어리그가 2000-01시즌에 만들어지면서 해결되었다. 처음에는 크로아티아계와 보스니아계 클럽만이 참가하였고, 세르비아계는 2002-03시즌부터 참가하기 시작하였다. 이에 따라 보스니아 헤르체고비나의 최상위 리그가 하나로 통합되었다. 민족적, 지역적으로 구분된 리그는 현재도 존재하고 있지만, 프리미어리그보다 한 단계 낮은 위치에서 리그가 운영되고 있다.
유고슬라비아 1부 리그의 파생 리그
몬테네그로 - 몬테네그로 1부 리그 (2006-현재; 1992-2006까지는 세르비아와 같이 리그에 참여하였다.)
보스니아 헤르체고비나 - 보스니아 헤르체고비나 프리미어리그 (2000-현재)
북마케도니아 - 북마케도니아 1부 리그 (1992-현재)
세르비아 - 세르비아 수페르리가 (1992-현재, 1992-2006까지는 몬테네그로와 같이 리그에 참여하였다.)
슬로베니아 - 슬로베니아 1부 리그 (1991-현재)
크로아티아 - 크로아티아 1.HNL (1992-현재)
유고슬라비아 연방 (1992-2002)

유고슬라비아 연방 공화국의 1부 리그는 세르비아와 몬테네그로의 클럽이 참가하여 진행되었다. 유고슬라비아 연방이 2003년에 세르비아 몬테네그로로 국명을 변경할 때까지 계속되었다.
유고슬라비아 연방 (1992-2002) > 역대 우승 팀

| 시즌 | 우승 팀 | 준우승 팀 |
| --- | --- | --- |
| 1992-93 | 파르티잔 | 츠르베나 즈베즈다 |
| 1993-94 | 파르티잔 | 츠르베나 즈베즈다 |
| 1994-95 | 츠르베나 즈베즈다 | 파르티잔 |
| 1995-96 | 파르티잔 | 츠르베나 즈베즈다 |
| 1996-97 | 파르티잔 | 츠르베나 즈베즈다 |
| 1997-98 | 오빌리치 | 츠르베나 즈베즈다 |
| 1998-99 | 파르티잔 | 오빌리치 |
| 1999-00 | 츠르베나 즈베즈다 | 파르티잔 |
| 2000-01 | 츠르베나 즈베즈다 | 파르티잔 |
| 2001-02 | 츠르베나 즈베즈다 | 파르티잔 |
같이 보기

유고슬라비아 축구 국가대표팀
예전 유고슬라비아 소속 국가들의 리그
| 0 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
|   몬테네그로 |  |   보스니아 헤르체고비나 |  |   북마케도니아 |  |   세르비아 |  |   슬로베니아 |  |   크로아티아 |
| v t e유럽의 축구 1부 리그(UEFA) |
| --- | --- |
가맹국:  그리스  네덜란드  노르웨이  덴마크  독일  라트비아  러시아  루마니아  룩셈부르크  리투아니아  몬테네그로  몰도바  몰타  벨기에  벨라루스  보스니아 헤르체고비나  북마케도니아  북아일랜드  불가리아  산마리노  세르비아  스웨덴  스위스  스코틀랜드  스페인  슬로바키아  슬로베니아  아르메니아  아이슬란드  아일랜드  아제르바이잔  안도라  알바니아  에스토니아  오스트리아  우크라이나  웨일스  이스라엘  이탈리아  잉글랜드  조지아  지브롤터  체코  카자흐스탄  코소보  크로아티아  키프로스  튀르키예  페로 제도  포르투갈  폴란드  프랑스  핀란드  헝가리 
비가맹국:  맨섬  모나코  북키프로스  크림반도  바티칸 시국 
폐지:  동독  세르비아 몬테네그로  소련  유고슬라비아  체코슬로바키아 
남미 | 북중미 | 아시아 | 아프리카 | 오세아니아 | 유럽
유고슬라비아 1부 리그의 파생리그의 타임라인