La începutul anilor 1930 Svoboda a predat la o academie militară. După ocuparea Cehoslovaciei de către germani în primăvara anului 1939, a devenit membru al unei organizații secrete numite "Obrana národa" ("Apărarea națiunii"). Se presupune că, în același timp, a realizat o legătură cu serviciile de spionaj sovietice. În iunie 1939 a fugit în Polonia, formând o unitate militară cehoslovacă la Cracovia, înainte de a cădea în captivitatea sovietică în timpul invaziei sovietice în Polonia. A reușit să scape de la o moarte sigură după ce - așa cum a relatat după război - a cerut celor care l-au capturat să formeze un număr de telefon de la Moscova unde au putut să obțină o informație cu caracter personal despre el. După începerea ofensivei germane împotriva URSS-ului, Svoboda a devenit conducătorul unităților militare cehoslovace de pe Frontul de Est. Unitatea sa a luptat cu germanii pentru prima dată în martie 1943 în Bătălia de la Sokolovo, din Ucraina. În calitate de comandant a condus, de asemenea, a trupele Corpului 1 Armată Cehoslovac în Bătălia din pasul Dukla în toamna anului 1944, când, în urma unor lupte foarte grele, această unitate a reușit să treacă pentru prima dată frontiera de stat cehoslovacă. Conducerea carismatică și curajul personal al lui Svoboda au fost foarte apreciate de către superiorul său militar de la acea vreme, mareșalul sovietic Ivan Konev. Beneficiind de încrederea conducătorului comunist din exil Klement Gottwald și a oficialilor sovietici, el a urcat rapid treptele ierarhiei militare, devenind general de armată în august 1945.