Bohle var medlem av Riksdagen fra 1933 til 1945 som representant fra Württemberg, og fra 1937 til 1945 statssekretær i utenriksdepartementet (). Fra 3. oktober 1933 tilhørte han staben til Rudolf Hess, og skulle bli en av dem som Hess hadde som særlig nær rådgiver og medarbeider. Han arbeidet i utenriksministeriets utenlandsorganisasjon som holdt tilsyn med tyske borgere i fremmende land; under Bohles ledelse ble virksomheten utvidet til verdensomspennende.