En 1854, Grau ingresó a la Marina de Guerra del Perú como guardiamarina, sirviendo sucesivamente en el vapor "Rímac", el pailebot "Vigilante" y el vapor de ruedas "Ucayali".