Era hijo de William Olley, un inglés de Sussex que naufragó en las costas de Rocha, se quedó a vivir en la zona y se casó con María Candelaria Velásquez. Olid ingresó al Ejército en 1828 y ascendió rápidamente. Se vinculó al liderazgo de Manuel Oribe, combatió el levantamiento de Fructuoso Rivera en 1836 y marchó al exilio en 1838, tras la "resignación" (renuncia) de la Presidencia de la República por Oribe. Participó en la Guerra Grande de 1839 hasta 1851 y desde sus inicios y durante el Sitio de Montevideo, ocurrido entre 1843 y 1851, permaneció a las órdenes del Gobierno del Cerrito y combatió en la Batalla de India Muerta en 1845 con el grado de teniente coronel. En 1846 derrotó al colorado Fortunato Silva en San Carlos, lo que aumentó verticalmente su prestigio en la zona Este del país y le dio aristas de caudillo. Fue comandante de la Fortaleza de Santa Teresa. Tras el fin de la Guerra Grande continuó sirviendoen el Ejército, pero vinculado estrechamente a Oribe y a las figuras principales del Partido Blanco.