Né à New York, Barry est diplômé de l'académie militaire de West Point en 1838, de sa promotion de 45 cadets. Il est nommé second lieutenant dans le , puis est affecté au 2nd U.S. Artillery quelques semaines plus tard. Il est affecté auprès de la frontière canadienne, puis prend part aux guerres américano-mexicaine, séminoles, et de la frontière du Kansas-Missouri.