Rowecki se narodil v Piotrków Trybunalski. Ve svém rodném městě byl jedním z organizátorů tajné průzkumné organizace. Během první světové války byl odveden do rakousko-uherské armády a později do první brigády polské legie. Byl internován v srpnu 1917 poté, co většina jeho jednotky odmítla slíbit věrnost rakouskému císaři. V únoru 1918 byl propuštěn z internačního tábora, nacházejícího se v obci Beniaminów nedaleko Varšavy. Po vzniku nově nezávislého Polska, vstoupil do polské armády. Posléze bojoval v polsko-sovětské válce (1919–1920). Po válce zůstal v armádě a organizoval první vojenský týdeník ("'Przegląd Wojskowy"'). Od roku 1930–1935 velel 55. pěšímu pluku v Lešně.