В начале 1861 года, через два дня после того, как Линкольн призвал вербовать волонтеров в армию, Кржижановски записался в армию рядовым. Вскоре он навербовал роту из польских эмигрантов, отправился с ней в Нью-Йорк, где набрал еще рекрутов и вскоре сформировал 58-й Нью-Йоркский пехотный полк, став его полковником. Этим подразделением он командовал в сражении при Кросс-Кейс, где полк понёс большие потери, и командир бригады, генерал Болен, отметил храбрость полка, хотя ничего не написал в рапорте о его офицерах. Кржижановски сражался в долине Шенандоа, а затем во втором сражении при Булл-Ран, где командовал бригадой в составе четырёх полков. В ноябре 1862 года его представили к присвоению звания бригадного генерала, но Сенат не утвердил этого звания. Генерал Шурц шутил, что это оттого, что сенаторы не могли правильно произнести его фамилию.