En 1858 publicó la primera edición de su texto de mecánica aplicada, "Applied Mechanics", y en 1859 el "Manual of the Steam Engine and other Prime Movers"; en julio de ese año, Rankine fue fundamental en la formación del 2º Cuerpo de Fusileros Voluntarios de Lanarkshire en la Universidad de Glasgow, ingresando como capitán y convirtiéndose en mayor en 1860 al comando del 2º Batallón del 1.