단원 정리
지금까지 재미있었나요? 1장과 2장에서 모델과 토크나이저에 대해 공부했고 또한 자체 데이터셋을 가지고 모델과 토크나이저를 미세 조정(fine-tuning)하는 방법을 알게 되었습니다. 요약하면 3장에서는 다음의 내용을 배웠습니다:
- Hub의 데이터셋(datasets)에 대해 알아보았습니다.
- 동적 패딩(dynamic padding) 및 콜레이터(collator) 사용 방법을 포함하여 데이터셋을 로드하고 전처리하는 방법을 배웠습니다.
- 모델에 대한 미세 조정(fine-tuning) 및 평가(evaluation) 코드를 구현했습니다.
- 저수준 학습 루프(low-level training loop)를 구현했습니다.
- 🤗Accelerate를 이용해서 학습 루프(training loop)가 여러 GPU 또는 TPU에서 작동하도록 코드를 수정했습니다.