Rauff ingresó en la Reichsmarine (la antigua Marina de Guerra de Alemania) en 1924, lo que le permitió conocer prácticamente toda América Latina.