Da NSDAP i 1933 kom til makten i Tyskland, forlot Eichmann sommeren 1933 Østerrike og reiste til Tyskland. I Tyskland sluttet han seg til Österreichische Legion (en halvmilitær organisasjon for østerrikske nazister i eksil i Tyskland) og søkte om å tilsluttes de aktive SS-regimentene. Søknaden ble innvilget og han gjennomgikk grunnleggende militær opplæring.