Hulinův otec byl obchodník se suknem. Mladý Pierre Augustin vstoupil do učení k hodináři, ale již v roce 1771 jako 13letý vstoupil do královské armády. 7. srpna 1780 dosáhl hodnosti seržanta. V čele útočícího davu se 14. července 1789 podílel na dobytí Bastilly a marně se pokoušel zabránit masakru guvernéra Bastilly DeLaunaye a jeho vojáků. Roku 1794 vstoupil do revoluční armády a roku 1796 se stal generálním adjutantem Napoleona Bonaparte.