En 1811 ingresó en el Colegio de Artillería y en 1814 alcanzó el grado de subteniente del cuerpo. Tomó parte en el movimiento liberal de 1820. Durante la guerra realista participó en las campañas del levante en Valencia y Murcia contra los cien mil hijos de San Luis, y tras la pérdida de Cartagena marchó al exilió en 1823. En esta etapa Elorza viaja por Europa, especialmente por los centros industriales de Bélgica, Alemania, el Piamonte y Gran Bretaña, ampliando y afianzando sus conocimientos sobre la siderurgia y metalurgia. Fernando VII le permitió el retorno a España, de tal manera que con sus estudios de ingeniería y minas realizados en la Universidad de Lieja fue mandado a dirigir la ferrería de Marbella de Manuel Agustín Heredia en 1828 y en 1832 las minas de El Pedroso y Villa del Río, en Sevilla.