James McCleery besuchte in den Jahren 1859 und 1860 das Oberlin College in Ohio. Während des Bürgerkrieges diente er als Offizier im Unionsheer. Dabei wurde er mehrfach verwundet; bei der Schlacht von Shiloh verlor er seinen rechten Arm. Bis zum Ende des Krieges hatte er den Rang eines Majors erreicht. Außerdem bekleidete er bei den Freiwilligenverbänden den Rang eines Brevet-Brigadegenerals. Im Jahr 1866 trat er erneut, diesmal als Hauptmann, in die Army ein. Bis zum 15. Dezember 1870 blieb er beim Militär. Danach erwarb er im St. Mary Parish in Louisiana eine Plantange. Gleichzeitig arbeitete er dort auch als Rechtsanwalt. Außerdem wurde er im vierten Schulbezirk von Louisiana Schulrat.