Während der Schlacht um Vicksburg unter Generalmajor Grant befehligte Osterhaus die 9. Division im XIII. Korps und war verantwortlich für die Unionsstellung am Big Black, um konföderierten Nachschub für die belagerte Stadt abzufangen. Die Schlacht von Chattanooga war die für ihn erfolgreichste. Er führte seine Division, die erste im XV. Korps, gegen die konföderierten Stellungen am Lookout Mountain und Missionary Ridge. Bei der Verfolgung der geschlagenen Konföderierten holte sich seine Division an Taylor’s Ridge eine „blutige Nase“.