I. Dünya Savaşı'nın patlak vermesinin ardından 1914'te Alman Ordusu'na katıldı ve çabukça Teğmenliğe terfi ettirildi. Savaş esnasında Somme Muharebesi'nde bir bölük komutanı ve Karargâh subayıydı. II. Dünya Savaşına hazırlık evresinde Alman ordusunda kaldı ve savaş arifesinde Yarbay rütbesine terfi ettirildi. Ağustos 1940'ta Fransa Seferi'nde mücadele etti. Fransa'da askeri komutanlık kurmay başkanı olarak hizmet etti. 1942'de Speidel 5. Ordu komutanı olarak ve 1943'te Güney Ordular Grubu'nun kurmay başkanı olarak hizmet ettiği Doğu Cephesi'ne yollandı. 1944 Nisan'da Generalfeldmarschall Erwin Rommel'in kurmay başkanı olması kararlaştırıldı. Atlas Okyanusu kıyılarının Fransız'lara karşı savunulmasından sorumlu olarak Ordular Grubu B'nin kurmay başkanı oldu. Rommel makam arabasına yapılan bir hava saldırısında yaralandığı zaman, B Ordu Grubu'nun yeni kumandanı olduğu Mareşal Günther von Kluge'nin yanında kurmay başkanı olarak hizmetine devam etti.