Er wurde Mitglied der Miliz von Salem, als Feindseligkeiten ausbrachen, marschierte er unter dem Kommando von Oberst Timothy Pickering nach Lexington, wo es am 19. April 1775 zu Schusswechseln mit den sich zurückziehenden britischen Briten kam. Bei der Wahl der Offiziere der Dritten Kompanie der Miliz im Jahr 1776 wurde Gray zum "Second Lieutenant" (Unterleutnant) gewählt.