17 апреля, уже через несколько дней после сражения за форт Самтер, Костер записался рядовым в 7-й Нью-Йоркский полк ополчения. Через несколько недель он перешел в 12-й пехотный полк регулярной армии в звании первого лейтенанта, а в мае стал капитаном. Весной 1862 года его полк, состоящий в дивизии Сайкса, был направлен на Вирджинский полуостров, где участвовал в Семидневной битве. 27 июня Костер был ранен в Сражение при Геинс-Милл. Он выбыл из строя на несколько месяцев, но вернулся в армию осенью и 8 октября получил звание полковника. Ему поручили только что сформированный 134-й Нью-Йоркский пехотный полк. Еще 2 октября этот полк был включен в бригаду Орландо Смита в дивизии Фон Штейнвера.