hotchpotch/wikipedia-multilingual-ir-pairs huggingface dataset:
생성형 AI 포르노그래피 역사
2023년까지 AI 생성 성인 콘텐츠 전용 웹사이트는 맞춤형 경험을 추구하는 사용자들에게 인기를 얻었다. 이러한 플랫폼은 사용자가 자신의 취향에 맞춰 AI 생성 포르노그래피를 만들거나 볼 수 있도록 한다. 이러한 플랫폼은 프롬프트와 태그를 통해 사용자가 신체 유형, 얼굴 특징, 예술 스타일을 맞춤 설정하여 다양한 취향에 맞는 AI 생성 성인 콘텐츠를 만들거나 볼 수 있도록 한다. 태그는 출력을 더욱 정교하게 만들어 틈새 시장과 다양한 콘텐츠를 만든다. 많은 사이트는 광범위한 이미지 라이브러리와 지속적인 콘텐츠 피드를 제공하여 개인화와 발견을 결합하고 사용자 참여를 향상시킨다. 따라서 AI 포르노 사이트는 독특하거나 틈새 시장 경험을 추구하는 사람들을 유치하여 성인 미디어에서 AI의 창의성과 윤리적 경계에 대한 논쟁을 촉발시킨다.
civitai.com과 같은 인기 사이트를 통해 사용자는 다양한 포르노 장면이나 효과를 생성하도록 특별히 설계된 SDXL, Flux의 오픈 소스 모델을 미세 조정하여 만들고, 업로드하고, 다운로드할 수 있다.
생성형 AI 포르노그래피 윤리적 문제 및 오용
생성형 AI 포르노그래피의 성장은 비판의 원인이 되기도 했다. AI 기술은 리벤지 포르노와 AI 생성 NCII (비동의 성적 이미지)에서 볼 수 있는 것과 유사한 위험을 초래하는 비동의 포르노그래피 자료를 만드는 데 악용될 수 있다. 2023년 분석에 따르면 온라인 딥페이크 비디오의 98%는 포르노그래피이며, 피해자의 99%는 여성인 것으로 나타났다. 딥페이크의 유명인 피해자로는 스칼렛 요한슨, 테일러 스위프트, 메이지 윌리엄스 등이 있다.
오픈AI는 딥페이크 금지를 유지하면서 에로티카와 같은 NSFW 콘텐츠가 연령에 적합한 맥락에서 책임감 있게 생성될 수 있는지 여부를 탐색하고 있다. 이 제안은 오픈AI의 "안전하고 유익한" AI 개발 임무를 훼손한다고 주장하는 아동 안전 운동가들로부터 비판을 받았다. 또한 인터넷 감시 재단은 AI가 아동과 관련된 성적 학대 콘텐츠를 생성하는 데 사용될 수 있다는 우려를 제기했다.
생성형 AI 포르노그래피 윤리적 문제 및 오용
생성형 AI는 동의하지 않는 개인의 포르노 이미지와 비디오를 제작하는 데 광범위하게 사용되었다. 404 Media는 특정 AI 생성 포르노 봇이 텔레그램에서 월간 사용자 10만 명 이상을 보유하고 있다고 보고했다. 중국 기술 기업 알리바바는 2025년에 Wan 2.1이라는 AI 비디오 생성 모델을 출시했는데, 이 모델은 비동의 포르노를 제작하도록 수정되었다.
일부 미국 주에서는 딥페이크 앱 사용 및 인터넷 공유에 대해 조치를 취하고 있다. 2024년, 샌프란시스코는 주법 위반을 이유로 비동의 AI 누드 이미지를 생성할 수 있는 "언드레스" 앱을 폐쇄하기 위한 획기적인 소송을 제기했다. 이 사건은 캘리포니아주의 최근 입법인 SB 926, SB 942, SB 981과 일치한다. 이 법안은 아이샤 와합 상원의원과 조쉬 베커 상원의원이 주도하고 개빈 뉴섬 주지사가 서명했다. 이 법안들은 비동의 배포를 범죄화하고, 공개를 의무화하며, 피해자들이 유해 콘텐츠를 보고하고 플랫폼에서 제거할 수 있도록 권한을 부여함으로써 AI 생성 노골적인 이미지로부터 개인을 보호하는 것을 목표로 한다.
생성형 AI 포르노그래피 윤리적 문제 및 오용
생성형 AI 포르노그래피와 딥페이크 포르노그래피 모두 재현 데이터에 의존하지만, 방법론과 윤리적 고려 사항이 다르다. 딥페이크 포르노그래피는 일반적으로 AI를 사용하여 얼굴을 겹치거나 장면을 수정하는 방식으로 실제 인물의 기존 영상을 종종 동의 없이 변경하는 것을 포함한다. 이와 대조적으로 생성형 AI 포르노그래피는 알고리즘을 사용하여 생성되며, 실제 사람의 사진을 업로드할 필요 없이 초현실적인 콘텐츠를 제작한다. 이미지 분석 전문가인 하니 파리드는 "AI 포르노"와 "딥페이크 포르노"의 차이점을 설명하기도 했다.
생성형 AI 포르노그래피 합법성
생성형 AI 포르노그래피의 합법성은 관할권에 따라 크게 다르며 계속해서 진화하는 문제이다. 일부 국가에서는 디지털 사칭, 음란물 또는 딥페이크 기술을 다루는 법률이 간접적으로 적용될 수 있으며, 특히 AI 생성 콘텐츠가 동의 없이 실제 인물의 초상을 포함하는 경우 더욱 그렇다. 물리적 공연자가 없다는 점은 공연자 보호 및 배포 법률에 근거하는 전통적인 규제 프레임워크를 더욱 복잡하게 만든다.
미국에서는 법적 대응이 주로 비동의 딥페이크 및 사칭에 초점을 맞추고 있다. 버지니아주, 캘리포니아주, 텍사스주와 같은 일부 주에서는 비동의 노골적인 딥페이크 콘텐츠의 제작 또는 배포를 범죄화하는 법안을 제정했다. 그러나 AI 생성 포르노그래피를 다루는 포괄적인 연방 법률은 없으며, 이는 다양한 관할권에 걸쳐 법적 해석과 집행 표준의 혼란을 야기한다.
생성형 AI 포르노그래피 합법성
2023년 보고서에 따르면 대한민국은 전 세계 딥페이크 포르노그래피 생산의 약 53%를 차지한다. 2024년 9월, 대한민국 국회는 성폭력범죄의 처벌 등에 관한 특례법을 개정하여 딥페이크 콘텐츠와 관련된 두 가지 중요한 개혁을 도입했다. 첫 번째는 비동의 딥페이크 자료의 소유, 시청, 구매 및 저장을 범죄화하며, 최대 3년의 징역 또는 최대 3천만 원(약 2만 달러)의 벌금형에 처한다. 두 번째 개혁은 미성년자 착취를 구체적으로 다루며, 딥페이크를 사용하여 미성년자를 위협하거나 블랙메일하는 개인은 최소 3년의 징역형에 처하고, 미성년자를 원치 않는 행위로 강요하는 경우 최소 5년의 징역형에 처한다.
블랙보드 (디자인 패턴)
소프트웨어 공학에서 블랙보드 패턴(blackboard pattern)은 크고 다양한 특수 모듈을 통합하고 복잡하고 비결정적인 제어 전략을 구현하는 시스템의 설계 및 구현을 위한 계산 프레임워크를 제공하는 행동 디자인 패턴이다.
이 패턴은 Hearsay-II 프로젝트의 구성원들이 식별했으며 음성 인식에 처음 적용되었다.
블랙보드 (디자인 패턴) 구조
블랙보드 모델은 세 가지 주요 구성 요소를 정의한다.
블랙보드 (디자인 패턴) 구현
첫 번째 단계는 블랙보드 구조로 이어지는 솔루션 공간(즉, 잠재적 솔루션)을 설계하는 것이다. 그런 다음 지식 소스를 식별한다. 이 두 가지 활동은 밀접하게 관련되어 있다.
다음 단계는 제어 구성 요소를 지정하는 것이다. 이는 일반적으로 실행 가능한 지식 소스의 관련성을 평가하기 위해 도메인별 휴리스틱 세트를 사용하는 복잡한 스케줄러 형태를 취한다.
블랙보드 (디자인 패턴) 결과
블랙보드 패턴은 이기종 모듈을 동적으로 결합하여 문제를 해결해야 하는 복잡한 시스템을 설계하고 구현하는 데 효과적인 솔루션을 제공한다. 이는 다음과 같은 비기능적 속성을 제공한다.
블랙보드 패턴은 여러 프로세스가 별도의 스레드에서 더 가깝게 협력하고 필요할 때 폴링 및 반응할 수 있도록 한다.
널 오브젝트 패턴
널 오브젝트 패턴(null object pattern) 또는 널 객체 패턴에 관한 내용이다.
객체 지향 컴퓨터 프로그래밍에서 널 객체는 참조된 값이 없거나 정의된 중립 (널) 동작을 가진 객체이다. 이러한 객체의 사용법과 동작 (또는 그 부재)을 설명하는 널 객체 디자인 패턴은 "Void Value"로 처음 출판되었고
나중에 Pattern Languages of Program Design 서적 시리즈에서 "Null Object"로 출판되었다.
널 오브젝트 패턴 동기
자바 또는 C#과 같은 대부분의 객체 지향 언어에서 참조는 널일 수 있다. 메서드는 일반적으로 널 참조에 대해 호출될 수 없으므로, 어떤 메서드를 호출하기 전에 이러한 참조가 널이 아닌지 확인해야 한다.
Objective-C 언어는 이 문제에 대해 다른 접근 방식을 취하며 nil에 메시지를 보낼 때 아무것도 하지 않는다. 반환 값이 예상되는 경우, 객체에 대해서는 nil, 숫자 값에 대해서는 0, BOOL 값에 대해서는 NO, 또는 모든 멤버가 null/0/NO/0으로 초기화된 구조체 (구조체 타입의 경우)가 반환된다.
널 오브젝트 패턴 설명
객체의 부재 (예를 들어, 존재하지 않는 고객)를 전달하기 위해 널 참조를 사용하는 대신, 예상되는 인터페이스를 구현하지만 메서드 본문이 비어 있는 객체를 사용한다. 널 객체 사용의 주요 목적은 다양한 종류의 조건문을 피하여 코드를 더 집중적이고 읽고 따르기 쉽게 만드는 것이다 –  즉, 가독성을 향상시키는 것이다.
작동하는 기본 구현보다 이 접근 방식의 한 가지 장점은 널 객체가 매우 예측 가능하고 부작용이 없다는 것이다: 아무것도 하지 않는다.
예를 들어, 함수는 폴더의 파일 목록을 검색하고 각 파일에 대해 어떤 작업을 수행할 수 있다. 빈 폴더의 경우, 응답 중 하나는 예외를 발생시키거나 목록 대신 널 참조를 반환하는 것일 수 있다. 따라서 목록을 기대하는 코드는 계속 진행하기 전에 실제로 목록이 있는지 확인해야 하며, 이는 설계를 복잡하게 만들 수 있다.
널 오브젝트 패턴 설명
대신 널 객체 (즉, 빈 목록)를 반환함으로써 반환 값이 실제로 목록인지 확인할 필요가 없다. 호출 함수는 평소와 같이 목록을 반복하여 효과적으로 아무것도 하지 않을 수 있다. 그러나 반환 값이 널 객체 (빈 목록)인지 확인하고 원하는 경우 다르게 반응할 수도 있다.
널 객체 패턴은 데이터베이스와 같은 특정 기능이 테스트에 사용할 수 없는 경우 테스트를 위한 스텁 역할도 할 수 있다.
널 오브젝트 패턴 예시
이 노드 구조를 가진 이진 트리가 주어졌을 때:
재귀적으로 트리 크기 절차를 구현할 수 있다:
자식 노드가 존재하지 않을 수 있으므로, 비존재 또는 널 검사를 추가하여 절차를 수정해야 한다:
그러나 이는 경계 검사와 일반 로직을 혼합하여 절차를 더 복잡하게 만들고 읽기 어렵게 만든다. 널 객체 패턴을 사용하여 특별한 버전의 절차를 만들 수 있지만 널 노드에 대해서만 가능하다:
이는 일반 로직과 특수 사례 처리를 분리하여 코드를 이해하기 쉽게 만든다.
널 오브젝트 패턴 다른 패턴과의 관계
상태 패턴 및 전략 패턴의 특수 사례로 간주될 수 있다.
이것은 디자인 패턴 (책)의 패턴은 아니지만 마틴 파울러의 Refactoring 및 조슈아 케리에브스키(Joshua Kerievsky)의 Refactoring To Patterns에서 Insert Null Object 리팩토링으로 언급된다.
로버트 C. 마틴의 Agile Software Development: Principles, Patterns and Practices 17장은 이 패턴에 전념한다.
널 오브젝트 패턴 대안
C# 6.0부터 "?." 연산자 (일명 널 조건부 연산자)를 사용할 수 있으며, 이는 왼쪽 피연산자가 널이면 단순히 널로 평가된다.
일부 Microsoft .NET 언어에서는 확장 메서드를 사용하여 '널 병합'이라고 하는 작업을 수행할 수 있다. 이는 확장 메서드가 '인스턴스 메서드 호출'인 것처럼 널 값에 대해 호출될 수 있지만 실제로는 확장 메서드가 정적이기 때문이다. 확장 메서드는 널 값을 확인하도록 만들어질 수 있으므로, 이를 사용하는 코드가 그렇게 할 필요가 없어진다. 아래 예제는 널 병합 연산자를 사용하여 오류 없는 호출을 보장하지만, 더 평범한 if...then...else를 사용할 수도 있다. 다음 예제는 널의 존재를 신경 쓰지 않거나 널과 빈 문자열을 동일하게 취급하는 경우에만 작동한다. 이 가정은 다른 응용 프로그램에서는 적용되지 않을 수 있다.
널 오브젝트 패턴 다양한 언어에서
객체에 대한 정적 타입 참조를 가진 언어는 널 객체가 어떻게 더 복잡한 패턴이 되는지를 보여준다:
여기서 아이디어는 Animal 객체에 대한 포인터 또는 참조가 필요하지만 적절한 객체가 없는 상황이 있다는 것이다. 표준을 준수하는 C++에서는 널 참조가 불가능하다. 널 Animal* 포인터는 가능하며, 자리 표시자로 유용할 수 있지만 직접 디스패치에는 사용할 수 없다: a가 널 포인터이면 a->MakeSound()는 미정의 동작이다.
널 객체 패턴은 Animal 포인터 또는 참조에 바인딩될 수 있는 특수 NullAnimal 클래스를 제공함으로써 이 문제를 해결한다.
널 객체를 가져야 하는 각 클래스 계층에 대해 특수 널 클래스를 생성해야 한다. NullAnimal은 Animal 계층과 관련이 없는 Widget 기본 클래스에 대한 널 객체가 필요할 때 쓸모가 없기 때문이다.
"모든 것이 참조"인 언어 (예: Java 및 C#)와 달리 널 클래스가 전혀 없다는 것이 중요한 기능이라는 점에 유의해야 한다. C++에서는 함수 또는 메서드의 설계가 널을 허용하는지 여부를 명시적으로 명시할 수 있다.
널 오브젝트 패턴 다양한 언어에서
C#은 널 객체 패턴을 제대로 구현할 수 있는 언어이다. 이 예시는 소리를 내는 동물 객체와 C# 널 키워드를 대신하여 사용되는 NullAnimal 인스턴스를 보여준다. 널 객체는 일관된 동작을 제공하고, C# 널 키워드를 대신 사용했을 때 발생할 수 있는 런타임 널 참조 예외를 방지한다.
Smalltalk 원칙에 따라, 모든 것은 객체이며, 객체의 부재는 nil이라는 객체로 모델링된다. 예를 들어 GNU Smalltalk에서 nil의 클래스는 UndefinedObject이며, Object의 직계 후손이다.
목적에 맞는 합리적인 객체를 반환하지 못하는 모든 연산은 대신 nil을 반환하여 Smalltalk 설계자들이 지원하지 않는 "객체 없음"이라는 특수 사례를 피한다. 이 방법은 고전적인 "널" 또는 "객체 없음" 또는 "널 참조" 접근 방식보다 단순하다는 장점 (특수 사례가 필요 없음)이 있다. nil과 함께 사용하기 특히 유용한 메시지는 isNil, ifNil: 또는 ifNotNil:이며, Smalltalk 프로그램에서 nil에 대한 가능한 참조를 처리하는 것을 실용적이고 안전하게 만든다.
널 오브젝트 패턴 다양한 언어에서
Lisp에서 함수는 특수 객체 nil을 우아하게 받아들일 수 있어 응용 프로그램 코드에서 특수 사례 테스트의 양을 줄인다. 예를 들어, nil은 원자이고 어떤 필드도 없지만, 함수 car 및 cdr은 nil을 받아들이고 그냥 반환하는데, 이는 매우 유용하며 코드를 더 짧게 만든다.
nil이 Lisp에서 빈 목록이기 때문에 위 서론에서 설명한 상황은 존재하지 않는다. nil을 반환하는 코드는 실제로 빈 목록을 반환하는 것이므로 (목록 타입에 대한 널 참조와 유사한 것이 아님), 호출자는 값이 목록인지 아닌지 테스트할 필요가 없다.
널 객체 패턴은 다중 값 처리에서도 지원된다. 프로그램이 값을 반환하지 않는 식에서 값을 추출하려고 하면, 널 객체 nil이 대체된다.
따라서 (list (values))는 (nil) (nil을 포함하는 한 요소 목록)을 반환한다. (values) 식은 전혀 값을 반환하지 않지만, list 함수 호출이 인자 식을 값으로 줄여야 하므로 널 객체가 자동으로 대체된다.
널 오브젝트 패턴 다양한 언어에서
Common Lisp에서 객체 nil은 특수 클래스 null의 유일한 인스턴스이다. 이것은 메서드가 null 클래스에 특화될 수 있으며, 따라서 널 디자인 패턴을 구현한다는 의미이다. 즉, 객체 시스템에 본질적으로 내장되어 있다:
클래스 null은 nil이 심볼이기 때문에 symbol 클래스의 서브클래스이다.
nil은 또한 빈 목록을 나타내므로, null은 list 클래스의 서브클래스이기도 하다. symbol 또는 list에 특화된 메서드 매개변수는 따라서 nil 인수를 취할 것이다. 물론, nil에 대해 더 구체적인 일치인 null 특화가 여전히 정의될 수 있다.
Common Lisp 및 많은 Lisp 방언과 달리 Scheme 방언은 이런 식으로 작동하는 nil 값을 가지고 있지 않다. car 및 cdr 함수는 빈 목록에 적용할 수 없다. 따라서 Scheme 응용 프로그램 코드는 empty? 또는 pair? 술어 함수를 사용하여 이 상황을 회피해야 한다. 이는 nil의 동작 덕분에 빈 경우와 비어 있지 않은 경우를 구별할 필요가 없는 매우 유사한 Lisp 상황에서도 마찬가지이다.
널 오브젝트 패턴 다양한 언어에서
덕 타이핑 언어인 Ruby에서는 예상되는 동작을 제공하기 위해 언어 상속이 필요하지 않다.
명시적 구현을 제공하는 대신 NilClass를 직접 몽키 패치하려는 시도는 이점보다 더 예상치 못한 부작용을 낳는다.
덕 타이핑 언어인 자바스크립트에서는 예상되는 동작을 제공하기 위해 언어 상속이 필요하지 않다.
이 코드는 위 C++ 예제의 변형을 Java 언어를 사용하여 보여준다. C++와 마찬가지로, Animal 객체에 대한 참조가 필요하지만 적절한 객체가 없는 상황에서 널 클래스를 인스턴스화할 수 있다. 널 Animal 객체는 가능하지만 (Animal myAnimal = null;) 자리 표시자로 유용할 수 있지만 메서드 호출에는 사용할 수 없다. 이 예제에서 myAnimal.makeSound();는 NullPointerException을 발생시킨다. 따라서 널 객체를 테스트하기 위해 추가 코드가 필요할 수 있다.
널 객체 패턴은 Animal 타입의 객체로 인스턴스화될 수 있는 특수 NullAnimal 클래스를 제공함으로써 이 문제를 해결한다. C++ 및 관련 언어와 마찬가지로, 이 특수 널 클래스는 널 객체가 필요한 각 클래스 계층에 대해 생성되어야 한다. NullAnimal은 Animal 인터페이스를 구현하지 않는 널 객체가 필요할 때 쓸모가 없기 때문이다.
다음 널 객체 패턴 구현은 구체적인 클래스가 해당 널 객체를 정적 필드 Empty로 제공하는 것을 보여준다. 이 접근 방식은 .NET 프레임워크(String.Empty, EventArgs.Empty, Guid.Empty 등)에서 자주 사용된다.
널 오브젝트 패턴 비판
이 패턴은 오류/버그가 정상 프로그램 실행처럼 보이게 만들 수 있으므로 신중하게 사용해야 한다.
널 오브젝트 패턴 비판
널 검사를 피하고 코드를 더 읽기 쉽게 만들려는 목적으로만 이 패턴을 구현하지 않도록 주의해야 한다. 왜냐하면 더 읽기 어려운 코드가 다른 곳으로 이동하여 표준이 아닐 수 있기 때문이다. 예를 들어, 제공된 객체가 실제로 널 객체인 경우 다른 로직이 실행되어야 할 때 그렇다. 대부분의 참조 타입을 가진 언어의 일반적인 패턴은 참조를 널 또는 nil이라고 불리는 단일 값과 비교하는 것이다. 또한, 어디에서도 널 객체 대신 널을 할당하지 않는지 테스트해야 할 필요가 있다. 왜냐하면 대부분의 경우, 그리고 정적 타이핑을 가진 언어에서는 널 객체가 참조 타입이라 할지라도 컴파일러 오류가 아니지만, 패턴이 널 검사를 피하는 데 사용된 코드 부분에서는 런타임에 오류를 유발할 것이기 때문이다. 게다가, 대부분의 언어에서, 그리고 많은 널 객체가 있을 수 있다고 가정할 때 (즉, 널 객체가 참조 타입이지만 어떤 방식으로든 싱글턴 패턴을 구현하지 않는 경우), 널 또는 nil 값 대신 널 객체를 확인하는 것은 오버헤드를 발생시키며, 싱글턴 패턴 자체도 싱글턴 참조를 얻을 때 마찬가지이다.
마르코프 블랭킷
통계학 및 기계 학습에서 확률 변수의 마르코프 블랭킷(Markov blanket) 또는 마코프 블랭킷은 시스템의 다른 모든 변수와 해당 변수를 조건부 독립으로 만드는 변수들의 집합이다. 이 개념은 확률적 그래프 모형 및 특징 선택에서 중요하다. 마르코프 블랭킷이 최소한 — 즉, 이 조건부 독립을 잃지 않고서는 어떤 변수도 제거할 수 없는 — 경우, 이를 마르코프 경계라고 한다. 마르코프 블랭킷 또는 경계를 식별하면 효율적인 통계적 추론이 가능하며 예측 또는 인과 추론을 위한 관련 변수를 분리하는 데 도움이 된다. 마르코프 블랭킷 및 마르코프 경계라는 용어는 1988년 주데아 펄에 의해 만들어졌다. 마르코프 블랭킷은 베이즈 네트워크 또는 마르코프 네트워크와 같은 확률적 그래프 모형의 구조에서 파생될 수 있다.
마르코프 블랭킷 마르코프 블랭킷
확률 변수 집합 에서 확률 변수 의 마르코프 블랭킷은 의 부분 집합 으로, 이에 따라 다른 변수들이 와 독립이 된다.
이는 이 를 추론하는 데 필요한 모든 정보를 적어도 포함하고 있으며, 의 변수들은 중복됨을 의미한다.
일반적으로, 주어진 마르코프 블랭킷은 유일하지 않다. 마르코프 블랭킷을 포함하는 의 모든 집합 또한 마르코프 블랭킷이다. 특히, 는  내 의 마르코프 블랭킷이다.
베이즈 네트워크에서 노드의 마르코프 블랭킷은 그 부모, 자식, 그리고 자식의 다른 부모(즉, 공동 부모)로 구성된다. 이 노드들의 값을 알면 대상 노드는 네트워크의 나머지 부분과 조건부 독립이 된다. 마르코프 네트워크에서 노드의 마르코프 블랭킷은 단순히 그 즉각적인 이웃이다.
마르코프 블랭킷 마르코프 조건
마르코프 블랭킷의 개념은 마르코프 조건에 뿌리를 두고 있는데, 이는 확률적 그래프 모형에서 각 변수가 부모가 주어진다면 비후손 변수들과 조건부 독립이라는 것을 명시한다. 이 조건은 네트워크의 나머지 부분으로부터 변수를 보호하는 최소 분리 집합인 마르코프 블랭킷의 존재를 암시한다.
예를 들어, 사람이 물체를 중력에 대항하여 정지 상태로 유지할 때, 물체의 가속도는 직접적인 원인, 즉 손으로부터의 위쪽 힘과 아래쪽 중력 당김에 의해 완전히 결정된다. 기압이나 온도와 같은 다른 변수들은 인과적으로 무관하다.
마르코프 블랭킷 마르코프 경계
내 의 마르코프 경계는 의 부분 집합 로,  자체는 의 마르코프 블랭킷이지만, 의 어떤 적절한 부분 집합도 의 마르코프 블랭킷이 아니다. 다시 말해, 마르코프 경계는 최소 마르코프 블랭킷이다.
베이즈 네트워크에서 노드 의 마르코프 경계는 의 부모, 의 자식, 그리고 의 자식들의 다른 부모로 구성된 노드 집합이다. 마르코프 네트워크에서 노드의 마르코프 경계는 그 이웃 노드들의 집합이다. 의존성 네트워크 (그래프 모형)에서 노드의 마르코프 경계는 그 부모들의 집합이다.
마르코프 경계는 항상 존재한다. 일부 완만한 조건하에서는 마르코프 경계가 유일하다. 그러나 대부분의 실용적이고 이론적인 시나리오에서는 여러 마르코프 경계가 대안적인 해결책을 제공할 수 있다. 여러 마르코프 경계가 있을 경우, 인과 효과를 측정하는 양들이 실패할 수 있다.
온라인 기계 학습
컴퓨터 과학에서 온라인 기계 학습(Online machine learning)은 데이터가 순차적으로 제공되고 각 단계에서 미래 데이터에 대한 최적의 예측기를 업데이트하는 기계 학습 방법으로, 전체 트레이닝 셋에서 한 번에 학습하여 최적의 예측기를 생성하는 배치 학습 기술과는 대조된다. 온라인 학습은 전체 데이터셋을 통해 훈련하는 것이 계산적으로 불가능하여 아웃 오브 코어(out-of-core) 알고리즘이 필요한 기계 학습 영역에서 일반적으로 사용되는 기술이다. 또한 알고리즘이 데이터의 새로운 패턴에 동적으로 적응해야 하는 상황이나, 데이터 자체가 시간의 함수로 생성되는 경우(예: 금융 국제 시장의 가격 예측)에도 사용된다. 온라인 학습 알고리즘은 치명적 망각에 취약할 수 있으며, 이는 증분 학습 접근 방식으로 해결될 수 있는 문제이다.
온라인 기계 학습
온라인 기계 학습 알고리즘은 광고 수익 극대화를 위한 후원 검색, 포트폴리오 최적화, 최단 경로 예측 (예: 지도 애플리케이션의 도로 교통과 같은 확률적 가중치 사용), 스팸 필터링, 실시간 사기 탐지, 전자 상거래를 위한 가변적 가격 책정 등 다양한 분야에 적용된다. 초기 훈련 후 지속적이고 실시간 적응을 가능하게 하기 위해 LLM(Large Language Model)에 온라인 학습 패러다임을 사용하는 것에 대한 관심도 커지고 있다.
온라인 기계 학습 서론
지도 학습 설정에서, 입력 공간 와 출력 공간 에 대한 함수 를 학습하는 것이 목표이며, 이 함수는  상의 결합분포 에서 추출된 인스턴스에 대해 잘 예측해야 한다. 실제로는 학습자는 인스턴스에 대한 실제 분포 를 알지 못한다. 대신, 학습자는 일반적으로 과 같은 예제들의 트레이닝 셋에 접근할 수 있다. 이 설정에서, 손실 함수는 로 주어지며, 는 예측 값 와 실제 값  사이의 차이를 측정한다. 이상적인 목표는 함수 공간인 가설 공간 에서 함수 를 선택하여 총 손실의 어떤 개념을 최소화하는 것이다. 모델 유형(통계적 또는 적대적)에 따라 다른 손실 개념을 고안할 수 있으며, 이는 다른 학습 알고리즘으로 이어진다.
온라인 기계 학습 온라인 학습의 통계적 관점
통계적 학습 모델에서 훈련 표본 는 실제 분포 에서 추출되었다고 가정하며, 목표는 기대 "위험"을 최소화하는 것이다.

이러한 상황에서 일반적인 패러다임은 경험적 위험 최소화 또는 정규화된 경험적 위험 최소화(티호노프 정칙화를 통해)를 통해 함수 를 추정하는 것이다. 여기서 손실 함수의 선택은 정규화된 최소제곱법 및 서포트 벡터 머신과 같은 여러 잘 알려진 학습 알고리즘을 발생시킨다.
이 범주에서 순수한 온라인 모델은 새로운 입력 , 현재 최적의 예측기  및 추가로 저장된 정보(일반적으로 훈련 데이터 크기와 무관한 저장 요구 사항을 가질 것으로 예상됨)에만 기반하여 학습한다. 비선형 커널 메소드와 같은 많은 공식에서는 진정한 온라인 학습이 불가능하지만, 이 와 모든 이전 데이터 포인트 에 의존하도록 허용되는 재귀 알고리즘을 사용한 하이브리드 온라인 학습 형태를 사용할 수 있다. 이 경우, 모든 이전 데이터 포인트를 저장해야 하므로 공간 요구 사항이 더 이상 일정하다고 보장되지 않지만, 배치 학습 기술에 비해 새로운 데이터 포인트가 추가될 때 솔루션을 계산하는 데 시간이 덜 걸릴 수 있다.
온라인 기계 학습 온라인 학습의 통계적 관점
위의 문제를 극복하기 위한 일반적인 전략은 미니 배치(mini-batch)를 사용하여 학습하는 것으로, 한 번에 개의 데이터 포인트의 작은 배치를 처리하며, 이는 총 훈련 포인트 수보다 훨씬 작은 에 대한 유사-온라인 학습으로 간주될 수 있다. 미니 배치 기술은 훈련 데이터를 반복적으로 통과하여 기계 학습 알고리즘의 최적화된 out-of-core 버전을 얻는 데 사용된다. 예를 들어, 확률적 경사 하강법이 있다. 역전파와 결합될 때, 이는 현재 인공 신경망 훈련을 위한 사실상의 훈련 방법이다.
선형 최소 제곱의 간단한 예시는 온라인 학습의 다양한 아이디어를 설명하는 데 사용된다. 이 아이디어들은 다른 볼록 손실 함수와 같은 다른 설정에도 적용될 수 있을 만큼 충분히 일반적이다.
가 학습될 선형 함수인 지도 학습 설정을 고려한다.

여기서 는 입력(데이터 포인트) 벡터이고 는 선형 필터 벡터이다.
목표는 필터 벡터 를 계산하는 것이다.
이를 위해, 제곱 손실 함수

를 사용하여 경험적 손실을 최소화하는 벡터 를 계산한다.

여기서
온라인 기계 학습 온라인 학습의 통계적 관점
를  데이터 행렬이라고 하고, 를 첫 번째 개의 데이터 포인트가 도착한 후의 목표 값의 열 벡터라고 하자.
공분산 행렬 가 역행렬을 가진다고 가정하면 (그렇지 않으면 티호노프 정칙화를 사용하여 유사하게 진행하는 것이 선호됨), 선형 최소 제곱 문제에 대한 최적의 해 는 다음과 같이 주어진다.
이제 공분산 행렬 를 계산하는 데  시간이 걸리고,  행렬을 역행렬하는 데  시간이 걸리며, 나머지 곱셈은  시간이 걸려 총 시간은 이 된다. 데이터셋에 총 개의 포인트가 있을 때, 모든 데이터 포인트 가 도착한 후 해를 다시 계산하는 순진한 접근 방식은 총 복잡도가 이다.  행렬을 저장하면 각 단계에서 업데이트하는 데 를 추가하는 데만  시간이 걸려 총 시간이 으로 줄어들지만, 를 저장하는 데 의 추가 저장 공간이 필요하다.
온라인 기계 학습 온라인 학습의 통계적 관점
재귀적 최소 제곱(RLS) 알고리즘은 최소 제곱 문제에 대한 온라인 접근 방식을 고려한다.  및 로 초기화하면 이전 섹션에서 주어진 선형 최소 제곱 문제의 해가 다음 반복으로 계산될 수 있음을 보여줄 수 있다.


위 반복 알고리즘은 에 대한 귀납법으로 증명될 수 있다. 증명은 또한 임을 보여준다. RLS를 적응형 필터의 맥락에서도 볼 수 있다(RLS 참조).
이 알고리즘의 단계 복잡도는 로, 해당 배치 학습 복잡도보다 한 자릿수 빠르다. 여기에서 각 단계 에서의 저장 요구 사항은 행렬 를 저장하는 것이며, 이는 로 일정하다. 가 역행렬을 갖지 않는 경우, 문제 손실 함수의 정규화된 버전 를 고려한다. 그러면 동일한 알고리즘이 로 작동하며, 반복은 을 제공함이 쉽게 증명된다.
이 식

이

으로 대체되거나 가 으로 대체되면, 이는 확률적 경사 하강법 알고리즘이 된다. 이 경우, 이 알고리즘의  단계에 대한 복잡도는 로 감소한다. 각 단계 에서의 저장 요구 사항은 로 일정하다.
온라인 기계 학습 온라인 학습의 통계적 관점
그러나 위에서 설명한 대로 기대 위험 최소화 문제를 해결하기 위해 스텝 사이즈 를 신중하게 선택해야 한다. 감소하는 스텝 사이즈 를 선택함으로써 평균 반복 의 수렴을 증명할 수 있다. 이 설정은 최적화에서 잘 알려진 문제인 확률적 최적화의 특수한 경우이다.
실제로는 데이터에 대해 여러 번의 확률적 경사 하강 통과(사이클 또는 에포크라고도 함)를 수행할 수 있다. 이렇게 얻은 알고리즘을 증분 경사 하강법이라고 하며 다음과 같은 반복에 해당한다.

확률적 경사 하강법과의 주요 차이점은 여기서는 번째 단계에서 어떤 훈련 포인트를 방문할지 결정하기 위해 시퀀스 가 선택된다는 것이다. 이러한 시퀀스는 확률적이거나 결정적일 수 있다. 그러면 반복 횟수는 포인트 수와 분리된다(각 포인트는 한 번 이상 고려될 수 있다). 증분 경사 하강법은 경험적 위험을 최소화하는 값을 제공하는 것으로 나타날 수 있다. 증분 기법은 매우 큰 데이터셋에 해당하는 경험적 오류와 같이 많은 항의 합으로 구성된 목적 함수를 고려할 때 유리할 수 있다.
온라인 기계 학습 온라인 학습의 통계적 관점
커널은 위의 알고리즘을 비모수 모델(또는 매개변수가 무한 차원 공간을 형성하는 모델)로 확장하는 데 사용될 수 있다. 해당 절차는 더 이상 진정한 온라인이 아니며 대신 모든 데이터 포인트를 저장해야 하지만, 무차별 대입 방식보다 여전히 빠르다. 이 논의는 제곱 손실의 경우에만 한정되지만, 어떤 볼록 손실로도 확장될 수 있다.에 의해 쉽게 귀납적으로 증명될 수 있듯이, 가 데이터 행렬이고 가 SGD 알고리즘의  단계 후 출력이라면,

여기서 이고 시퀀스 는 다음 재귀를 만족한다.

 이고

여기서 는 에 대한 표준 커널이며, 예측기는 다음 형태를 갖는다.
온라인 기계 학습 온라인 학습의 통계적 관점
이제 일반 커널 가 도입되고 예측기가 다음과 같다고 하면,

동일한 증명은 최소 제곱 손실을 최소화하는 예측기가 위의 재귀를 다음과 같이 변경함으로써 얻어짐을 보여준다.

위의 표현식은 를 업데이트하기 위해 모든 데이터를 저장해야 한다. 번째 데이터 포인트에 대해 재귀를 평가할 때 총 시간 복잡도는 이며, 여기서 는 단일 쌍의 포인트에 대한 커널을 평가하는 비용이다. 따라서 커널을 사용하면 유한 차원 매개변수 공간 에서 매개변수 공간 에서 재귀를 수행함으로써 커널 로 표현되는 무한 차원 특징으로 이동할 수 있게 되었으며, 이 매개변수 공간의 차원은 훈련 데이터셋의 크기와 같다. 일반적으로 이는 표현자 정리의 결과이다.
온라인 볼록 최적화(OCO)는 효율적인 알고리즘을 가능하게 하는 볼록 최적화를 활용하는 일반적인 의사 결정 프레임워크이다. 이 프레임워크는 다음과 같은 반복 게임 플레이 방식이다.
에 대해
온라인 기계 학습 온라인 학습의 통계적 관점
목표는 후회, 즉 누적 손실과 나중에 가장 좋은 고정점 의 손실 간의 차이를 최소화하는 것이다. 예를 들어, 온라인 최소 제곱 선형 회귀의 경우를 고려하자. 여기서 가중치 벡터는 볼록 집합 에서 오고, 자연은 볼록 손실 함수 를 반환한다. 여기서 는 와 함께 암시적으로 보내진다.
그러나 일부 온라인 예측 문제는 OCO 프레임워크에 적합하지 않을 수 있다. 예를 들어, 온라인 분류에서는 예측 도메인과 손실 함수가 볼록하지 않다. 이러한 시나리오에서는 볼록화를 위한 두 가지 간단한 기술, 즉 무작위화 및 대리 손실 함수가 사용된다.
몇 가지 간단한 온라인 볼록 최적화 알고리즘은 다음과 같다.
온라인 기계 학습 온라인 학습의 통계적 관점
가장 간단한 학습 규칙은 (현재 단계에서) 과거의 모든 라운드에 걸쳐 손실이 가장 적었던 가설을 선택하는 것이다. 이 알고리즘을 "선행자 따르기"(Follow the leader)라고 하며, 라운드 는 단순히 다음과 같이 주어진다.

이 방법은 탐욕 알고리즘으로 볼 수 있다. 온라인 2차 최적화(손실 함수가 인 경우)의 경우, 로 증가하는 후회 경계를 보일 수 있다. 그러나 온라인 선형 최적화와 같은 다른 중요한 모델 패밀리의 경우 FTL 알고리즘에 대해 유사한 경계를 얻을 수 없다. 이를 위해 FTL에 정규화를 추가하여 수정한다.
이는 FTL 솔루션을 안정화하고 더 나은 후회 경계를 얻는 데 사용되는 FTL의 자연스러운 수정이다. 정규화 함수 가 선택되고 라운드 t에서 다음과 같이 학습이 수행된다.

특별한 예로, 온라인 선형 최적화의 경우, 즉 자연이  형태의 손실 함수를 반환하는 경우를 고려한다. 또한, 라고 하자. 어떤 양수 에 대해 정규화 함수 가 선택되었다고 가정하자. 그러면 후회를 최소화하는 반복이 다음과 같이 됨을 보일 수 있다.

이는 로 다시 작성될 수 있으며, 이는 온라인 경사 하강법과 정확히 일치한다.
만약 S가 의 일부 볼록 부분 공간이라면, S는 그 위에 투영되어야 하며, 이는 수정된 업데이트 규칙을 이끌어낸다.

이 알고리즘은 벡터 이 기울기를 축적하기 때문에 지연 투영(lazy projection)으로 알려져 있다. 또한 네스테로프의 이중 평균화 알고리즘으로도 알려져 있다. 선형 손실 함수와 이차 정규화의 이 시나리오에서, 후회는 로 경계지어지며, 따라서 평균 후회는 원하는 대로 0으로 수렴한다.
위에서 선형 손실 함수 에 대한 후회 경계가 증명되었다. 알고리즘을 임의의 볼록 손실 함수로 일반화하기 위해,  근처에서 의 선형 근사로 의 subgradient 를 사용하여 온라인 부분 경사 하강법 알고리즘을 얻는다.
매개변수  초기화
에 대해
OSD 알고리즘을 사용하여 분류를 위한 온라인 버전의 SVM에 대해  후회 경계를 도출할 수 있으며, 이는 힌지 손실 을 사용한다.
Quadratic하게 정규화된 FTRL 알고리즘은 위에서 설명한 지연 투영 경사 알고리즘으로 이어진다. 임의의 볼록 함수와 정규화자에 대해 위를 사용하려면 온라인 미러 하강법을 사용한다. 선형 손실 함수에 대해 후회 최적의 정규화를 사후에 도출할 수 있으며, 이는 AdaGrad 알고리즘으로 이어진다. 유클리드 정규화의 경우, 의 후회 경계를 보일 수 있으며, 이는 강하게 볼록하고 exp-오목 손실 함수에 대해 로 더욱 개선될 수 있다.
온라인 기계 학습 연속 학습
연속 학습은 정보의 지속적인 흐름을 처리하여 학습된 모델을 끊임없이 개선하는 것을 의미한다. 지속적으로 변화하는 현실 세계에서 상호 작용하는 소프트웨어 시스템 및 자율 에이전트에게는 연속 학습 능력이 필수적이다. 그러나 비정상적인 데이터 분포에서 점진적으로 사용 가능한 정보를 지속적으로 습득하는 것은 일반적으로 치명적 망각으로 이어지기 때문에 기계 학습 및 인공 신경망 모델에게는 연속 학습이 어려운 과제이다.
온라인 기계 학습 온라인 학습의 해석
온라인 학습 패러다임은 학습 모델의 선택에 따라 다양한 해석을 가지며, 각각 함수열 의 예측 품질에 대해 다른 함의를 갖는다. 이 논의에서는 전형적인 확률적 경사 하강법 알고리즘이 사용된다. 위에서 언급했듯이, 그 재귀는 다음과 같이 주어진다.
첫 번째 해석은 위에서 정의된 기대 위험 를 최소화하는 문제에 적용되는 확률적 경사 하강법을 고려한다. 실제로, 무한한 데이터 스트림의 경우, 예제 가 분포 에서 독립적이고 동일하게 분포되었다고 가정하므로, 위 반복에서 의 기울기 시퀀스는 기대 위험 의 기울기에 대한 확률적 추정치의 독립적이고 동일하게 분포된 표본이며, 따라서 확률적 경사 하강법에 대한 복잡도 결과를 적용하여 의 편차를 경계 지을 수 있다. 여기서 는 의 최소값이다. 이 해석은 유한 훈련 세트의 경우에도 유효하며; 데이터에 대한 여러 번의 통과로 인해 기울기가 더 이상 독립적이지 않지만, 특정 경우에는 복잡도 결과를 여전히 얻을 수 있다.
온라인 기계 학습 온라인 학습의 해석
두 번째 해석은 유한 훈련 세트의 경우에 적용되며, SGD 알고리즘을 증분 경사 하강법의 한 예로 간주한다. 이 경우, 대신 경험적 위험을 살펴본다.

증분 경사 하강법 반복에서 의 기울기가 의 기울기에 대한 확률적 추정치이므로, 이 해석은 확률적 경사 하강법과도 관련이 있지만, 기대 위험이 아닌 경험적 위험을 최소화하는 데 적용된다. 이 해석은 기대 위험이 아닌 경험적 위험과 관련이 있으므로, 데이터에 대한 여러 번의 통과가 허용되며 실제로 의 편차에 대한 더 엄격한 경계를 제공한다. 여기서 은 의 최소값이다.
북코퍼스
북코퍼스(BookCorpus) 또는 토론토 북코퍼스(Toronto Book Corpus)는 독립 전자책 배포 웹사이트 스매시워즈에서 웹 스크래핑을 통해 수집한 약 7,000권의 자가 출판 도서 텍스트로 구성된 자료 집합이다. 이것은 오픈AI가 초기 GPT 모델을 훈련하는 데 사용한 주요 말뭉치였으며, 구글의 BERT를 포함한 다른 초기 대형 언어 모델의 훈련 데이터로도 사용되었다. 이 자료 집합은 약 9억 8천 5백만 단어로 구성되어 있으며, 로맨스, 과학 소설, 판타지를 포함한 다양한 장르의 도서로 이루어져 있다.
북코퍼스
이 말뭉치는 토론토 대학교와 MIT 연구자들이 2015년에 발표한 "Aligning Books and Movies: Towards Story-like Visual Explanations by Watching Movies and Reading Books"라는 논문에서 소개되었다.
저자들은 이 자료가 "아직 출판되지 않은 작가들이 쓴 무료 책"으로 구성되어 있다고 설명했지만, 이는 사실과 다르다. 이 책들은 자가 출판("독립") 작가들이 무료로 가격을 책정한 것이며, 스매시워즈 또는 스매시워즈 작가들의 동의나 허락 없이 다운로드되었고 스매시워즈 서비스 약관을 위반했다. 이 자료 집합은 처음에는 토론토 대학교 웹페이지에서 호스팅되었다. 원본 자료 집합의 공식 버전은 더 이상 공개적으로 이용할 수 없지만, 적어도 하나의 대체 버전인 BookCorpusOpen이 생성되었다. 2015년 원본 논문에는 문서화되어 있지 않지만, 이 말뭉치의 책들이 스크랩된 사이트는 현재 스매시워즈로 알려져 있다.
아이리스 플라워 데이터 세트
아이리스 플라워 데이터 세트, 붓꽃 자료 집합, 피셔의 붓꽃 자료 집합('Fisher's Iris data set)은 영국의 통계학자이자 생물학자인 로널드 피셔가 1936년 논문 "분류학적 문제에서 다중 측정의 사용(The use of multiple measurements in taxonomic problems)"에서 선형 판별 분석의 예시로 사용하고 유명해진 다변량 통계 자료 집합이다. 이 자료 집합은 에드가 앤더슨이 세 가지 관련 종의 붓꽃속 꽃의 형태학적 변이를 정량화하기 위해 자료를 수집했기 때문에 때로는 앤더슨의 붓꽃 자료 집합이라고도 불린다. 세 종 중 두 종은 가스페반도에서 "모두 같은 목초지에서 같은 날 채집되었고 같은 사람이 같은 장비로 같은 시간에 측정했다."
아이리스 플라워 데이터 세트
이 자료 집합은 세 종의 붓꽃(Iris setosa, Iris virginica, Iris versicolor) 각각 50개 샘플로 구성된다. 각 샘플에서 네 가지 특징이 측정되었다: 꽃받침과 꽃잎의 길이와 너비(센티미터). 이 네 가지 특징의 조합을 바탕으로 피셔는 각 종을 구별하는 선형 판별 모델을 개발했다. 피셔의 논문은 Annals of Eugenics(오늘날의 Annals of Human Genetics)에 게재되었다.
아이리스 플라워 데이터 세트 자료 집합의 사용
원래 피셔의 선형 판별 분석이 적용된 예제 자료 집합으로 사용되었지만, 서포트 벡터 머신과 같은 기계 학습의 많은 통계적 분류 기술에 대한 전형적인 테스트 사례가 되었다.
그러나 이 자료 집합은 분명하게 분리되는 두 개의 클러스터만 포함하고 있기 때문에 클러스터 분석에서 흔히 사용되지는 않는다. 한 클러스터에는 Iris setosa가 포함되고, 다른 클러스터에는 Iris virginica와 Iris versicolor가 모두 포함되며 피셔가 사용한 종 정보 없이는 분리할 수 없다. 이는 데이터 마이닝에서 지도 학습 기법과 비지도 학습 기법의 차이를 설명하는 좋은 예시가 된다. 피셔의 선형 판별 모델은 객체 종을 알 때만 얻을 수 있다. 클래스 레이블과 클러스터는 반드시 같지 않다.
아이리스 플라워 데이터 세트 자료 집합의 사용
그럼에도 불구하고 세 가지 붓꽃 종 모두 비선형 및 분기 주성분에 대한 투영에서 분리 가능하다. 이 자료 집합은 과도한 노드 수, 굽힘 및 늘어짐에 대한 약간의 페널티를 부여하여 가장 가까운 트리로 근사된다. 그런 다음 소위 "지하철 노선도"가 구성된다. 자료 점들은 가장 가까운 노드에 투영된다. 각 노드에 대해 투영된 점들의 원그래프가 준비된다. 원그래프의 면적은 투영된 점들의 수에 비례한다. 이 도표(왼쪽)에서 다른 붓꽃 종의 샘플 대부분이 다른 노드에 속한다는 것이 분명하다. 붓꽃-버지니카의 작은 부분만이 붓꽃-버시컬러와 섞여 있다 (도표의 파란색-녹색 혼합 노드). 따라서 세 가지 붓꽃 종(Iris setosa, Iris virginica, Iris versicolor)은 비선형 주성분 분석의 비지도 학습 절차로 분리 가능하다. 이를 구별하기 위해서는 주성분 트리의 해당 노드를 선택하는 것만으로 충분하다.
아이리스 플라워 데이터 세트 자료 집합
이 자료 집합은 꽃받침 길이, 꽃받침 너비, 꽃잎 길이, 꽃잎 너비, 종의 다섯 가지 속성에 따라 150개의 기록으로 구성된다.
붓꽃 자료 집합은 기계 학습 초급자를 위한 자료 집합으로 널리 사용된다. 이 자료 집합은 R 기본 패키지와 scikit-learn 기계 학습 라이브러리 내에 포함되어 있어 사용자들이 별도의 자료 출처를 찾을 필요 없이 접근할 수 있다.
자료 집합의 여러 버전이 출판되었다.
아래에 제시된 R 코드 예시는 이 문서 상단에 표시된 산점도를 재현한다:
이 코드는 다음과 같은 결과를 보여준다:
케이티 바우만
케이티 바우만(Katie Bouman), 본명 캐서린 루이스 바우만(Katherine Louise Bouman, 1989년~)은 컴퓨테이셔널 이미징 분야에서 일하는 미국의 공학자이자 컴퓨터 과학자이다. 그녀는 블랙홀 이미징을 위한 알고리즘, 즉 CHIRP(Continuous High-resolution Image Reconstruction using Patch priors) 개발을 주도했으며, 최초의 블랙홀 이미지를 포착한 사상수평선망원경 팀의 일원이었다.
2019년 6월 바우만을 조교수로 채용한 캘리포니아 공과대학교는 2020년 그녀에게 지명 교수직을 수여했다. 2021년에는 소행성 291387 케이티바우만이 그녀의 이름을 따서 명명되었다. 2024년에는 부교수가 되었다.
케이티 바우만 어린 시절 및 교육
바우만은 웨스트라피엣에서 자랐다. 그녀의 아버지 찰스 바우만은 퍼듀 대학교의 전기 및 컴퓨터 공학 및 의공학 교수이다.
고등학생 시절, 바우만은 퍼듀 대학교에서 영상 연구를 수행했다. 그녀는 2007년에 웨스트 라피엣 주니어-시니어 고등학교를 졸업했다.
바우만은 미시간 대학교에서 전기 공학을 공부했으며 2011년에 숨마 쿰 라우데로 졸업했다. 그녀는 2013년에 석사 학위를 취득했으며, 2017년에 매사추세츠 공과대학교(MIT)에서 전기 공학 및 컴퓨터 과학 박사 학위를 취득했다.
케이티 바우만 어린 시절 및 교육
MIT에서 그녀는 MIT 컴퓨터 과학 및 인공지능 연구소(CSAIL)의 일원이었다. 이 그룹은 또한 MIT의 헤이스택 천문대 및 사상수평선망원경과 긴밀하게 협력했다. 그녀는 미국 국립과학재단 대학원 펠로십의 지원을 받았다. 그녀의 석사 학위논문, 직물 움직임 관찰을 통한 재료 특성 추정(Estimating Material Properties of Fabric through the Observation of Motion)은 전기 공학 분야 최고의 석사 학위논문에 수여되는 에른스트 길망 상을 받았다. 그녀의 박사 학위논문, 물리 모델 반전을 통한 극한 영상: 모퉁이를 돌아보고 블랙홀을 영상화하기(Extreme imaging via physical model inversion: seeing around corners and imaging black holes)는 윌리엄 T. 프리먼의 지도를 받았다. 박사 학위를 받기 전, 바우만은 블랙홀의 첫 이미지를 포착하는 데 사용될 수 있는 알고리즘을 설명하는 TEDx 강연, '블랙홀 사진 찍는 법(How to Take a Picture of a Black Hole)'을 발표했다.
케이티 바우만 연구 및 경력
박사 학위를 취득한 후 바우만은 하버드 대학교에 사상수평선망원경 이미징 팀의 박사후 연구원으로 합류했다.
바우만은 2013년에 사상수평선망원경 프로젝트에 참여했다. 그녀는 CHIRP(Continuous High-resolution Image Reconstruction using Patch priors)으로 알려진 블랙홀 이미징을 위한 알고리즘 개발을 주도했다. CHIRP는 2019년 4월 최초의 블랙홀 이미지를 획득하는 데 사용된 이미지 검증 절차에 영감을 주었으며, 바우만은 이미지 검증, 사상수평선망원경으로 찍은 이미지 필터링 매개변수 선택, 그리고 서로 다른 이미지 재구성 기술의 결과를 비교하는 견고한 이미징 프레임워크 개발 참여를 통해 프로젝트에서 중요한 역할을 했다. 그녀의 그룹은 강한 중력장에서의 일반 상대성이론에 대해 더 많이 배우기 위해 사상수평선망원경의 이미지를 분석하고 있다.
케이티 바우만 연구 및 경력
바우만은 EHT 이미지에서 블랙홀 그림자의 발견에 대한 그녀의 반응을 보여주는 사진이 입소문을 타면서 상당한 언론의 주목을 받았다. 일부 언론과 인터넷 사용자는 바우만이 이미지 뒤의 "단독 천재"였다고 잘못 암시했다. 그러나 바우만 자신은 그 결과가 대규모 협력의 산물이며 과학에서 팀워크의 중요성을 보여준다고 반복해서 언급했다. 바우만은 또한 그녀의 동료 앤드류 채엘(Andrew Chael)이 팀이 달성한 작업을 자신에게만 돌리려는 시도를 포함하여 "동료이자 친구에 대한 끔찍하고 성차별적인 공격"을 비판하는 트위터 성명을 발표할 정도로 온라인 괴롭힘의 대상이 되었다.
바우만은 2019년 6월 캘리포니아 공과대학교(칼텍)에 조교수로 합류하여 컴퓨터 비전과 기계 학습을 사용하여 컴퓨테이셔널 이미징을 위한 새로운 시스템을 연구하고 있다. 2024년에는 컴퓨터 및 수학 과학, 전기 공학 및 천문학 부교수이자 로젠버그 학자로 승진했다. 바우만은 2020년에 칼텍에서 지명 교수직을 받았다. 2021년에는 왕립 사진 협회 진보 메달과 명예 회원 자격을 받았다.
케이티 바우만 표창
그녀는 영국방송공사의 2019년 100인의 여성 중 한 명으로 인정받았다. 2024년, 바우만은 슬론 연구 펠로십을 수상했다.
후버 손실
통계학에서 후버 손실(Huber loss)은 로버스트 회귀에 사용되는 손실 함수로, 데이터의 이상치에 대해 제곱 오차 손실보다 덜 민감하다. 분류를 위한 변형도 때때로 사용된다.
후버 손실 정의
후버 손실 함수는 추정량 f에 의해 발생하는 페널티를 설명한다. 후버(1964)는 손실 함수를 다음과 같이 구분하여 정의한다.
이 함수는 a의 작은 값에 대해서는 이차 함수이고, 큰 값에 대해서는 선형 함수이며, 인 두 지점에서 다른 구간들의 값과 기울기가 동일하다. 변수 a는 종종 잔차, 즉 관측값과 예측값의 차이 를 나타내므로, 전자는 다음과 같이 확장될 수 있다.
후버 손실은 절댓값 함수와 구형함수의 합성곱을 스케일링하고 변환한 것이다. 따라서 원점에서의 절댓값 함수의 모서리를 "부드럽게" 만든다.
후버 손실 동기
두 가지 매우 일반적으로 사용되는 손실 함수는 제곱 손실, , 그리고 절댓값 손실, 이다. 제곱 손실 함수는 산술 평균-비편향 추정량을 발생시키고, 절댓값 손실 함수는 중앙값-비편향 추정량(1차원 경우, 다차원 경우에 대해서는 기하중앙값-비편향 추정량)을 발생시킨다. 제곱 손실은 이상치에 의해 지배되는 경향이 있다는 단점이 있다. 즉, 들의 집합에 대해 합산할 때(예: ), 분포가 두꺼운 꼬리를 가질 때 표본 평균은 몇몇 특히 큰  값에 의해 너무 많이 영향을 받는다. 추정 이론의 관점에서, 평균의 점근 상대 효율은 두꺼운 꼬리 분포에 대해 좋지 않다.
위에서 정의된 후버 손실 함수는 최소값 의 균일한 이웃에서 강볼록하다. 이 균일한 이웃의 경계에서 후버 손실 함수는 점 와 에서 아핀 함수로 미분 가능한 확장을 갖는다. 이러한 속성들은 평균의 평균-비편향, 최소-분산 추정량(이차 손실 함수 사용)의 민감도와 중앙값-비편향 추정량(절댓값 함수 사용)의 강건성을 결합할 수 있게 한다.
후버 손실 유사-후버 손실 함수
유사-후버 손실 함수는 후버 손실 함수의 매끄러운 근사로 사용될 수 있다. 이는 대상/최소값에 가까울 때는 강볼록이고 극단적인 값에 대해서는 덜 가파르기 때문에 L2 제곱 손실과 L1 절댓값 손실의 가장 좋은 속성을 결합한다. 유사-후버 손실 함수가 최소값에 가까운 값에 대해 L2 손실에서 극단적인 값에 대해 L1 손실로 전환되는 스케일과 극단적인 값에서의 가파른 정도는  값으로 제어할 수 있다. 유사-후버 손실 함수는 모든 차수에서 도함수가 연속임을 보장한다. 이는 다음과 같이 정의된다.
따라서 이 함수는 의 작은 값에 대해서는 를 근사하고, 의 큰 값에 대해서는 기울기 를 가진 직선을 근사한다.
위의 형태가 가장 일반적이지만, 후버 손실 함수의 다른 매끄러운 근사도 존재한다.