기계 학습 모델이 해당 도메인 내의 모든 유형의 데이터에 일반화되는 경우에만 정확한 예측을 얻을 수 있습니다. 과대적합은 모델이 훈련 데이터 세트를 일반화할 수 없고 대신 너무 근접하게 적합할 때 발생합니다. 과대적합은 다음과 같은 여러 가지 이유로 발생합니다.
•    훈련 데이터 크기가 너무 작고 가능한 모든 입력 데이터 값을 정확하게 나타내기에 충분한 데이터 샘플을 포함하지 않습니다.
•    훈련 데이터에는 노이즈 데이터라고 하는 관련 없는 정보가 많이 포함되어 있습니다.
•    모델이 단일 샘플 데이터 세트에서 너무 오래 훈련합니다.
•    모델 복잡도가 높기 때문에 훈련 데이터 내의 노이즈를 학습합니다.
과대적합의 예
기계 학습 모델이 사진을 분석하고 개가 포함된 사진을 식별해야 하는 사용 사례를 생각해 보세요. 기계 학습 모델이 공원 밖에 있는 개를 보여주는 대부분의 사진이 포함된 데이터 세트에 대해 훈련된 경우 분류를 위한 기능으로 잔디를 사용하는 방법을 학습할 수 있으며 방 안의 개를 인식하지 못할 수 있습니다.
또 다른 과대적합의 예로 가계 소득, 과거 학업 성적, 부모의 학업 자격과 같은 여러 요소를 분석하여 대학생의 학업 성적과 졸업 결과를 예측하는 기계 학습 알고리즘이 있습니다. 그러나 테스트 데이터에는 특정 성별 또는 인종 그룹의 후보자만 포함됩니다. 이 경우 과대적합으로 인해 성별 또는 인종이 테스트 데이터 세트에 속하지 않는 후보자에 대한 알고리즘의 예측 정확도가 떨어집니다.