cmes-deepvision/ACR-instance-segmentation-RF-FP16-v1.0.0

ACR-instance-segmentation-RF(FP16)-v1.0.0

ACR instance segmentation용 cmes_RF_960_v1.0.0 RF-DETR Seg2XLarge 모델을 RTX 5070과 RTX 5080에서 각각 빌드한 TensorRT FP16 배포 패키지입니다.

Hugging Face 저장소 ID는 괄호를 허용하지 않으므로 저장소 이름은 cmes-deepvision/ACR-instance-segmentation-RF-FP16-v1.0.0을 사용합니다.

엔진 선택

대상 GPU	엔진 파일	크기	SHA256
RTX 5070	engines/cmes_RF_960_v1.0.0.fp16.RTX5070.trt	81,984,724 bytes	456d4855706691f434eed48ab8950640f6be200ab94d8b74d62183f269911c92
RTX 5080	engines/cmes_RF_960_v1.0.0.fp16.RTX5080.trt	82,088,348 bytes	667d2bc084092501f5e5bd1391cff76aaa640b24e28b2aaa18effd536498c577

TensorRT serialized engine은 GPU와 TensorRT 버전에 종속됩니다. RTX 5070에서는 RTX 5070 엔진을, RTX 5080에서는 RTX 5080 엔진을 사용하십시오. 다른 GPU로 엔진을 복사해 사용하는 것은 지원하지 않습니다.

검증 환경

• NVIDIA driver: 580.173.02
• CUDA runtime used by PyTorch: 12.8
• PyTorch: 2.11.0+cu128
• TensorRT: 10.16.1.11
• compute capability: 12.0
• 입력: RGB, batch 1, 1 x 3 x 960 x 960
• 기본 confidence threshold: 0.50

엔진 내부 계산은 FP16이고 입출력 binding은 FP32입니다.

설치

python -m pip install -r requirements.txt

다운로드

from huggingface_hub import hf_hub_download

engine_path = hf_hub_download(
    repo_id="cmes-deepvision/ACR-instance-segmentation-RF-FP16-v1.0.0",
    filename="engines/cmes_RF_960_v1.0.0.fp16.RTX5080.trt",  # GPU에 맞게 변경
)

추론

저장소 전체를 받은 뒤 다음과 같이 실행합니다. --engine을 생략하면 현재 GPU 이름에서 RTX 5070/5080 엔진을 자동으로 선택합니다.

python scripts/infer_tensorrt.py image.jpg --threshold 0.50

엔진을 명시하려면:

python scripts/infer_tensorrt.py image.jpg \
  --engine engines/cmes_RF_960_v1.0.0.fp16.RTX5070.trt \
  --output-dir outputs

출력 폴더에는 mask/bbox overlay JPEG와 detection JSON이 생성됩니다.

FP16 변환 안정성

Test_v2.2.1의 50개 태스크에서 고정 대표 이미지 1장씩 총 50장을 사용했습니다. confidence 0.50, 클래스 일치 Hungarian matching, bbox/mask IoU >= 0.50 조건에서 PyTorch FP16 결과와 TensorRT FP16 결과를 비교했습니다.

GPU	BBox Precision	BBox Recall	Mask Precision	Mask Recall	판정
RTX 5080	98.33%	98.88%	98.44%	98.99%	PASS
RTX 5070	98.33%	98.66%	98.44%	98.77%	PASS

통과 기준은 네 지표가 모두 98% 이상인 경우입니다. 이번 대표 표본에서는 FP16 변환으로 인한 유의미한 정확도 저하가 확인되지 않았습니다.

속도

warm-up 5장 이후 50장 x 3회, batch 1로 측정했습니다. E2E는 메모리 내 PIL 이미지의 전처리, 추론, segmentation 후처리와 CPU NumPy 변환을 포함하며 디스크 I/O와 모델/엔진 로드는 제외합니다.

GPU	PyTorch FP16 E2E	TensorRT FP16 E2E	TensorRT FPS	CT 감소	엔진 단독
RTX 5080	28.48 ms	16.87 ms	59.28	40.77%	6.63 ms / 150.72 FPS
RTX 5070	40.68 ms	24.72 ms	40.45	39.23%	10.78 ms / 92.74 FPS

원본 측정치는 benchmarks/에 포함되어 있습니다.

클래스 순서

0  dropping item
1  dumping item
2  item in pb bag
3  item in tote
4  item on buffer
5  item on floor
6  item on plate
7  item out of buffer
8  item out of tote
9  picked item
10 tote

평가 범위

이 저장소의 GPU별 검증은 변환 안정성을 확인하기 위한 50장 대표 표본의 백엔드 일치도 평가입니다. 모델 자체의 전체 6,475장 GT 기반 성능은 ACR-instance-segmentation-RF-v1.0.0의 평가 결과를 참고하십시오. 본 저장소의 일치도 수치를 전체 테스트셋 mAP로 해석하면 안 됩니다.