I 1860 begynte Arthur i politikken. Han støttet Edwin D. Morgans gjenvalg som guvernør av New York. Ved borgerkrigens utbrudd meldte han seg til tjeneste. Han fikk godt ry også i hæren, der han var ansvarlig for utdannelse av 120.000 soldater.