Lors du déclenchement de la guerre de Sécession, Birney entre dans l'armée de l'Union, le comme capitaine dans le 1st New Jersey Infantry Regiment. Il participe d'abord à la première bataille de Bull Run. Promu commandant du 4th New Jersey Volunteers Infantry, il participe aux batailles du second Bull Run, de Chantilly, de Fredericksburg, et, en tant que colonel, de Chancellorsville. Il est blessé par deux fois, sans gravité, à la bataille de Fredericksburg, dont à la cheville par un fragment d'obus. Le , il est envoyé à Alexandria pour prendre en charge les convalescents et les traînards.