1851 zog McClernand nach Jacksonville. Seit 1856 lebte er in der Staatshauptstadt Springfield. Zwischen 1859 und 1861 vertrat er als Nachfolger von Charles D. Hodges den sechsten Distrikt seines Staates im Kongress. Diese Zeit war von den Ereignissen im unmittelbaren Vorfeld des Bürgerkrieges bestimmt. Er legte sein Mandat am 28. Oktober 1861 nieder, um als Offizier am Krieg teilzunehmen, und brachte es in der Folge bis zum Generalmajor. Im Januar 1863 befehligte er die Army of the Mississippi während der Schlacht um Arkansas Post. Im Juni 1863 wurde er von General Ulysses S. Grant seines Kommandos enthoben, als er entgegen einem entsprechenden Verbot einen die eigene Rolle überhöhenden Kriegsbericht über die Schlacht am Champion Hill in einer Zeitung in Illinois veröffentlichte. Präsident Abraham Lincoln gab McClernand 1864 ein neues Kommando. Dies geschah auch aus politischen Gründen, da McClernand zu den die Kriegspolitik Lincolns unterstützenden Kriegsdemokraten ("War Democrats") gehörte.