Den 12. februar 1938 ble han i sammenheng med Berchtesgaden-overenskomsten, da Adolf Hitler påtvang Kurt Schuschnigg en rekke konsesjoner, gjort til forbundsminister for utenrikssaker. Men kort tid etter, ved , ble han avsatt av Arthur Seyß-Inquart den 11. mars 1938. Hermann Göring utnevnte snart sin personlige venn Schmidt den 1. juli 1938 til direktør for Hermann-Göring-Werke i Linz.