ニューヨークのを卒業後、ウィスコンシン州に移住した際、南北戦争が勃発し、ジョリーはウィスコンシン州義勇歩兵連隊第23連隊c中隊に民兵として入隊し、北軍としてビックスバーグ方面作戦やジャクソンの戦いなどに参加した。