脱离联邦，于内战期间加入北军，先后参与中央溪战役、希洛战役和奇卡莫加战役，官拜少将。1862年，他首度当选联邦众议员，代表俄亥俄州第19国会选区。加菲尔德在内战结束长年担任国会议员，在此期间坚定支持金本位，并以演讲技巧纯熟闻名。他起初认同激进派共和党人对重建的看法，但后来开始偏向以更加温和的方式保障自由人的公民权利。获得提名后，加菲尔德同多位党派领导人会面，希望能让强硬派和温和派握手言和。根据党派领袖的建议，他在正式接受提名的信中表态支持高关税和稳健的货币政策，同时提请党派特别留意华人移民和公务员制度改