Al començament de la Guerra de Secessió Letterman fou assignat a l'exèrcit del Potomac. Fou nomenat director mèdic del Departament de Virgínia Occidental de l'exèrcit de la Unió el maig de 1862. Un mes després William A. Hammond, Cirurgià Generaol de l'exèrcit dels Estats Units el va ascendir de categoria com a director mèdic de l'exèrcit del Potomac. De seguida, Letterman va reorganitzar el Servei Mèdic del nou exèrcit després d'haver obtingut una carta del General Maj. George B. McClellan en la que se l'instava a fer el que calgués per a millorar el sistema. L'exèrcit de la Unió trontollava a causa de les baixes que havia patit a les Batalles dels Set Dies el mes de juny, però durant la Batalla d'Antietam (al setembre), Letterman havia ideat un sistema d'estacions de primers auxilis a nivell de cada regiment en els que es van iniciar els primers principis de triatge de ferits. Bàsicament, Letterman va instituir un procediment operacional permanent per a la tria i posterior tractament dels ferits de guerra i per primera vegada va aplicar els principis de gestió de la medicina en un camp de batalla. Va establir hospitals de campanya mòbils perquè estiguessin a les seus dels cossos i divisions. Això es va sumar a un eficient cos d'ambulàncies que va establir l'agost de 1862, sota el control de l'equip mèdic nomenat pels Cossos d'Intendèncis de l'exèrcit. Letterman també va idear un sistema eficient per a la distribució de les necessitats mèdiques.