CPU에서 효율적인 추론하기

이 가이드는 CPU에서 대규모 모델을 효율적으로 추론하는 방법에 중점을 두고 있습니다.

더 빠른 추론을 위한 BetterTransformer

우리는 최근 CPU에서 텍스트, 이미지 및 오디오 모델의 빠른 추론을 위해 BetterTransformer를 통합했습니다. 이 통합에 대한 더 자세한 내용은 이 문서를 참조하세요.

PyTorch JIT 모드 (TorchScript)

TorchScript는 PyTorch 코드에서 직렬화와 최적화가 가능한 모델을 생성할때 쓰입니다. TorchScript로 만들어진 프로그램은 기존 Python 프로세스에서 저장한 뒤, 종속성이 없는 새로운 프로세스로 가져올 수 있습니다. PyTorch의 기본 설정인 eager 모드와 비교했을때, jit 모드는 연산자 결합과 같은 최적화 방법론을 통해 모델 추론에서 대부분 더 나은 성능을 제공합니다.

TorchScript에 대한 친절한 소개는 PyTorch TorchScript 튜토리얼을 참조하세요.

JIT 모드와 함께하는 IPEX 그래프 최적화

Intel® Extension for PyTorch(IPEX)는 Transformers 계열 모델의 jit 모드에서 추가적인 최적화를 제공합니다. jit 모드와 더불어 Intel® Extension for PyTorch(IPEX)를 활용하시길 강력히 권장드립니다. Transformers 모델에서 자주 사용되는 일부 연산자 패턴은 이미 jit 모드 연산자 결합(operator fusion)의 형태로 Intel® Extension for PyTorch(IPEX)에서 지원되고 있습니다. Multi-head-attention, Concat Linear, Linear+Add, Linear+Gelu, Add+LayerNorm 결합 패턴 등이 이용 가능하며 활용했을 때 성능이 우수합니다. 연산자 결합의 이점은 사용자에게 고스란히 전달됩니다. 분석에 따르면, 질의 응답, 텍스트 분류 및 토큰 분류와 같은 가장 인기 있는 NLP 태스크 중 약 70%가 이러한 결합 패턴을 사용하여 Float32 정밀도와 BFloat16 혼합 정밀도 모두에서 성능상의 이점을 얻을 수 있습니다.

IPEX 그래프 최적화에 대한 자세한 정보를 확인하세요.

IPEX 설치:

IPEX 배포 주기는 PyTorch를 따라서 이루어집니다. 자세한 정보는 IPEX 설치 방법을 확인하세요.

JIT 모드 사용법

평가 또는 예측을 위해 Trainer에서 JIT 모드를 사용하려면 Trainer의 명령 인수에 jit_mode_eval을 추가해야 합니다.

Transformers 질의 응답의 사용 사례 예시를 참조하세요.

• CPU에서 jit 모드를 사용한 추론:

  python run_qa.py \
  --model_name_or_path csarron/bert-base-uncased-squad-v1 \
  --dataset_name squad \
  --do_eval \
  --max_seq_length 384 \
  --doc_stride 128 \
  --output_dir /tmp/ \
  --no_cuda \
  --jit_mode_eval 

• CPU에서 IPEX와 함께 jit 모드를 사용한 추론:

  python run_qa.py \
  --model_name_or_path csarron/bert-base-uncased-squad-v1 \
  --dataset_name squad \
  --do_eval \
  --max_seq_length 384 \
  --doc_stride 128 \
  --output_dir /tmp/ \
  --no_cuda \
  --use_ipex \
  --jit_mode_eval