Шмідт був членом Християнсько-соціальної партії і в 1933 році приєднався до Вітчизняного фронту, створеного канцлером Енгельбертом Дольфусом. Він зіграв важливу роль в укладанні «Липневої угоди» 1936 року австрофашистським урядом Курта Шушніга, наступника Дольфуса, з нацистською Німеччиною і в свою чергу був призначений статс-секретарем закордонних справ. Він і міністр внутрішніх справ Едмунд Гляйзе фон Горстенау служили основними переговорниками з владою нацистської Німеччини. 12 лютого 1938 року Шушніг під тиском Гітлера призначив Шмідта федеральним міністром. Цю посаду він займав до 11 березня 1938 року, коли канцлер був змушений піти у відставку за кілька годин до вторгнення військ вермахту і аншлюсу Австрії нацистською Німеччиною. Шмідт зіграв важливу роль у відставці начальника штабу Альфреда Янза, тим не менш, він не приєднався до нацистського уряду Артура Зейс-Інкварта, після чого він пішов з політики.