Začátkem světové války nastoupil na východní frontu, kde u ukrajinského městečna Staryi Sambir padl do ruského zajetí. Po smrti rakouského císaře Františka Josefa I. vstoupil dne 18. července 1917 jako poručík mezi české „dobrovolce“, později nazývané legie. Za své věrné služby byl postupně povyšován a oceňován (celkem 17 různých vyznamenání). Stal se jedním z hrdinů bitvy u Bachmače, účastnil se bitev v Penze, Bezenčuku, Buzuluku, atd. Josef Kroutil byl blízkým spolupracovníkem francouzského generála Janina, zmocněnce čs. vlády a při známé transsibiřské anabázi se stal dočasným velitelem města Omsk (říjen 1918 - červenec 1919), kde v roce 1918 jako velitel záložního pluku potlačil bolševické povstání. V dubnu 1920 velel největšímu transportu legionářů domů – loď USS America vyplula 23. dubna 1920 a přepravila domů téměř 6,5 tisíce osob. Na cestě navštívila loď Hong-Kong, kde 1. května sehráli muži 4. a 5. pluku fotbalové zápasy s reprezentanty Anglie a Číny, následně také Singapur, kde si oba pluky také zahráli s místními fotbalisty. V Suezském kanálu se mužstvo nejdříve přiotrávilo jídlem a následně loď narazila do lodi Morabo. Naštěstí se obé obešlo bez vážnějších následků. Legionáři dorazili do Terstu 7. června 1920. Od kapitána lodi V. Rinda obdržel po přistání osobní poděkování. Sám v té době velel 4. československému střeleckému pluku Prokopa Holého (Velikého), který bezpečně přivedl zpět do vlasti.