Учасник Першої світової війни. За бойові заслуги відзначений численними нагородами. Після демобілізації армії залишений у рейхсвері. Вважався одним з головних експертів вермахту по танках. З 1 жовтня 1937 року — командир 1-ї танкової дивізії, з якою брав участь у Польській кампанії. З 1 лютого 1940 року — командир 39-го танкового корпусу. Учасник бойових дій у Нідерландах, Франції і на радянсько-німецькому фронті. В середині серпня 1941 року корпус Шмідта був перекинутий з центрального напрямку на північ, під Ленінград, і після ряду запеклих боїв взяв Шліссельбург. З 15 листопада по 25 грудня 1941 року — в.о. командувача 2-ю армією. З 1 січня 1942 року — командувач 2-ю танковою армією. В 1942 році провів ряд успішних операцій в районі Орла і Брянська. Після поразки в битві на Курській дузі 10 липня 1943 року замінений генералом Лотаром Рендулічем і 30 вересня 1943 року звільнений у відставку. Після війни жив у Веймарі, де 25 грудня 1957 року був заарештований радянською контррозвідкою. 4 лютого 1952 року засуджений до 25 років ув'язнення. 7 січня 1956 року переданий владі ФРН і звільнений.