Bohle startet karrieren i nazipartiet NSDAP i desember 1931 da han meldte seg til frivillig assistent for dr. Hans Nieland, lederen for , utenlandsorganisasjonen til partiet. 8. mai 1932 ble Nieland leder for politiet i Hamburg, og Bohle overtok da stillingen som leder for utenlandsorganisasjonen.