Nach seiner Rückkehr aus Europa und dem Studium in Harvard meldete er sich 1860 freiwillig zur 7. New Yorker Nationalgarde, einem Regiment, dem nur Söhne aus reichen und einflussreichen Kreisen New Yorks angehörten, und erlebte in diesem Regiment den Ausbruch des Amerikanischen Bürgerkrieges. Am 10. Mai 1861 nahm Shaw das Angebot an, im 2. Massachusetts Infanterieregiment als 2nd Lieutenant zu dienen. In der Schlacht von Front Royal am 23. Mai 1862 erhielt er seine Feuertaufe. Am 9. August 1862 musste das Regiment während der Schlacht am Cedar Mountain große Verluste hinnehmen, am 17. September desselben Jahres, Shaw war nun Captain in seinem Regiment, erlitt es erneut hohe Verluste in der Schlacht am Antietam, wo er an vorderster Front stand.