Da Zimmermann bekreftet Zimmermann-telegrammets ekthet, var igrunnen hans karrière over. Han ble boende i Berlin vendte aldri tilbake til politikken. Han døde i 1940.