Когда началась Гражданская война, губернатор Нью-Джерси предложил ему место капитана 2-го Нью-Джерсийского полка, но Карман отказался, ссылаясь на плохое здоровье и семейные проблемы. 21 июля 1861 года он присутствовал на поле боя сражения при Булл-Ран, видел бегущие в панике войска, и это заставило его изменить своё решение и вступить в армию.