Comey ble født i Yonkers, men vokste opp i Allendale i New Jersey. Hans foreldre var irskættede Joan og J. Brien Comey. Hans far arbeidet med leiligheter og hans mor var datarådgiver. Han studerte ved College of William and Mary med kandidateksamen 1982 i kjemi og religion. Hans avslutningsarbeid analyserte den liberale teologen Reinhold Niebuhr og den konservative televangelisten Jerry Falwell, der han la vekt på begge deres tro på offentlig engasjement. Han tok doktorgradseksamen i rettslære ved University of Chicago i 1985.