Podczas procesu załogi Dachau przed amerykańskim Trybunałem Wojskowym Josef Jarolin był jednym z głównych oskarżonych. Wobec niepodważalnych dowodów zbrodni skazany został na karę śmierci przez powieszenie. Wyrok wykonano w więzieniu Landsberg w maju 1946 roku.