In 1915 ging hij het Oostenrijks-Hongaarse leger in, en aan het eind van dat jaar werd hij krijgsgevangen gemaakt. Na zijn vrijlating trad hij toe tot het Tsjechoslowaaks Legioen en nam hij in 1917 en 1918 deel aan de slagen bij Zborow en Bachmatsj en uiteindelijk in 1919 en 1920 aan de 'anabasis' dwars door Siberië naar Vladivostok. In 1920 keerde hij terug in Tsjechoslowakije met de rang van kapitein. Toen Duitsland begin 1939 het land binnenviel, was hij opgeklommen tot luitenant-kolonel. Hij sloot zich aan bij de ondergrondse verzetsbeweging "Obrana národa" (landsverdediging), maar moest in juni al de wijk nemen naar Polen uit vrees voor aanhouding door de Gestapo. Na de bezetting van Polen door Duitsland en de Sovjet-Unie viel hij in handen van de Sovjets. Op 15 juli 1942 ruim een jaar na de Duitse inval in de Sovjet-Unie in juni 1941 werd hij aangesteld tot bevelhebber van het Eerste Tsjechoslowaakse Legerkorps waarmee hij een eerste succes behaalde in de Slag bij Sokolovo (8 en 9 maart 1943) toen de Tsjechoslowaken in samenwerking met het Rode Leger de oprukkende Duitsers tot staan brachten en verhinderden dat ze de rivier de Mzha over konden steken. In september en oktober 1944 nam Svoboda met zijn legerkorps deel aan de Slag bij de Duklapas.