Han var statssekretær (viseutenriksminister) i utenriksdepartementet og Joachim von Ribbentrops nestkommanderende 1938-1943. Etter andre verdenskrig ble Weizsäcker dømt til 7 års fengsel for krigsforbrytelser, senere redusert til 5 år.