В 1861 году в США началась Гражданская война между Севером и Югом. В следующем году, 26 июля 1862 года, Пирс, живший на ферме семьи Пеков в городе Берлин, штат Коннектикут, вступил добровольцем в армию Союза и получил назначение в роту F 14-го Коннектикутского пехотного полка Потомакской армии. В первом же своём бою — сражении при Энтитеме — он был ранен и более месяца находился в госпитале. После долгого лечения, вызванного осложнениями от ранения, он вернулся в строй в мае 1863 года и 2 июля участвовал в битве при Геттисберге, а уже 3 июля вызвался участвовать добровольцем в битве при Блисс-Бэрне. Вечером того же дня Пирсу было приказано похоронить тела погибших в этой битве — это стало его наказанием за то, что, как считалось, он в результате устроенного в лагере конфедератов пожара был виновен в уничтожении чайников, палаток и другого имущества, однако в итоге Пирс за храбрость, проявленную в ходе этой битвы, 1 ноября того же года был произведён в капралы, став обладателем самого высокого звания среди солдат китайского происхождения, воевавших в армии Союза. Впоследствии он был отправлен в Нью-Хейвен, где занимался вербовкой новобранцев, вновь вернувшись на фронт в сентябре 1864 года. 10 мая 1865 года Гражданская война закончилась победой Севера, и 31 мая того же года Пирс ушёл в отставку.