Rautenstrauch pochodził z bogatej mieszczańskiej rodziny warszawskiej o początkach niemieckich, był synem kupca korzennego Jana i Ludwiki z domu Chevalier de Beaulieu. Rodzina Rautenstrauchów wywodziła się z okolic Kolonii i Bonn, przywędrowała do Polski w 1. poł. XVIII wieku (pozostali w Niemczech potomkowie rodziny uzyskali w XIX wieku duże znaczenie jako przemysłowcy i otrzymali nobilitację). Jan Rautenstrauch posiadał także wspólnie ze szwagrami Chevalierami garbarnię, o którą Józef, z natury pieniacz, później procesował się z wujami. Rodzina matki, kupcy bławatni w Warszawie, przywędrowała z Francji na pocz. XVIII wieku. W 7 roku życia Józef wstąpił jako kadet do Szkoły Inżynierów (Saperów) Koronnych, lecz wkrótce ją opuścił. Powrócił do szkoły mając lat 13 i ukończył ją w roku 1788, uzyskując stopień podoficera, po czym został zatrudniony przy budowie koszar kadeckich w Warszawie. Podczas inspekcji prac budowlanych król Stanisław August Poniatowski zwrócił uwagę na zdolnego chłopaka o wyglądzie typowego Francuza, swobodnie władającego paroma językami (z domu rodzinnego wyniósł oprócz polskiego także niemiecki i francuski), piszącego pięknym kaligraficznym pismem, i przeniósł go na początku roku 1790 do swej kancelarii, awansując go na podporucznika i uzyskując dla niego (17-letniego młodzieńca !) 25 listopada 1790 poprzez decyzję Sejmu Czteroletniego nobilitację z herbem własnym.. W królewskiej kancelarii Rautenstrauch pozostał do roku 1792, a więc nie brał czynnego udziału w wojnie polsko-rosyjskiej tego roku. Rok później powrócił w stopniu porucznika do wojska, gdzie służył w sztabie generalnym.