Jules Brunet est le fils de Jean-Michel Brunet, vétérinaire au de dragons, et de Laure Rocher. Entré à Polytechnique en 1857, il fait l'École d’application de l’artillerie et du génie et intègre le d'artillerie. Il en sort brillamment en 1861 (il est classé ). Brunet commence sa carrière militaire dans l’expédition mexicaine chère à Napoléon III. À son retour, il reçoit la Légion d’honneur. En récompense de ses brillantes qualités militaires, il est affecté au régiment d'artillerie de la Garde impériale. En 1864, lieutenant, il entre au régiment d'artillerie à cheval de la Garde impériale. Début novembre 1866, il fait partie de la mission envoyée au Japon sous les ordres du capitaine Jules Chanoine et qui arrive à Yokohama début janvier, afin d’instruire l’armée du shogun Yoshinobu Tokugawa.