McChrystal er sønn av Mary Gardner Bright og Major General Herbert J. McChrystal Junior og han var det fjerde barnet i en familie på fem gutter og en jente, som alle hadde en militær karriere eller giftet seg med militære ektefeller. Hans eldre bror, oberst Scott McChrystal, er en pensjonert prest fra US Army. McChrystal giftet seg med sin kone Annie i april 1977. Paret har en voksen sønn, Sam.