Da han mistet arbeidet som handelsagent i 1933 fikk han i stedet fulltidsstilling i partiet i Østerrike og sluttet seg til det uoffisielle østerrikske SS. Eichmann ble Kaltenbrunners protesje og Kaltenbrunner ga Eichmann stadig viktigere og mer krevende oppgaver. Det østerrikske politiet ble oppmerksom på ham, og da politiet kom på døren snek han seg ut bakveien og tok seg over grensen til Tyskland. I Berlin gikk han inn i en østerriksk SS-avdeling.