Когда Бернсайд был переведен в Вирджинию, Фостер принял командование всем департаментом Северной Каролины. 18 июля 1862 года он стал генерал-майором и участвовал в экспедиции в Голдсборо. Когда в ходе осады Саффолка в Северной Каролине появился корпус Лонгстрита, Фостер лично руководил обороной Вашингтона.