Hijo de Florencio Olave, navarro y militar liberal, y de Nicanora Díez, vallisoletana, Serafín Olave siguió la carrera de su progenitor e ingresó en la Academia de Artillería de Segovia en 1849. Fue nombrado alférez en 1851 y participó en el pronunciamiento de O'Donnell de 1854. Ascendido a teniente, en 1858 fue enviado a Filipinas, combatiendo en la Cochinchina, de donde regresó en 1862 con el empleo de teniente coronel. En 1869 participó en la guerra de Cuba, de donde regresó a los pocos meses ascendido a coronel y herido en acción. Posteriormente participó en la toma de Estella durante la Tercera Guerra Carlista, tras lo cual abandonó la vida militar para dedicarse a la política.