После начала гражданской войны Остархауз вступил рядовым в армию Союза и скоро стал майором во 2-м миссурийском волонтерском полку. Первый год войны прослужил в Миссури и Арканзасе, где участвовал в сражениях при Уилсонс-Крик (10 августа), где командовал стрелковым батальоном. После сражения Джон Фримонт повысил его до полковника и поручил ему сформировать полк, ставший впоследствии 12-м миссурийским волонтерским полком. Он тренировал полк около месяца, после чего ему сразу поручили бригаду и в начале марта 1862 года он командовал ей в сражении при Пи-Ридж. В этом сражении он командовал отрядами, которые первые вступили в бой с противником, атаковавшим левый фланг федеральной армии. 9 июня 1862 года он стал бригадным генералом. В 1863 году он уже командовал дивизией в сражении при Порт-Гибсон.