Gettysburgin taisteluun Kemper saapui Pickettin divisioonan mukana illalla 2. heinäkuuta 1863. Hänen prikaatinsa oli 3. heinäkuuta Pickettin hyökkäyksen vasempana sivustana. Emmitsburgin tien ylityksen jälkeen Kemperin prikaatiin osui Unionin Vermontin joukkojen ampumaa tulta: Kemperin joukkoa ajettiin vasemmalle, ja se häiritsi koko hyökkäyksen kulkua. Kemperin kuultiin huutavan: "Tuolla on aseita pojat, menkää niiden luo". Hänen mahtailunsa teki hänet selväksi maaliksi unionin kiväärimiehille, ja hän saikin luodin vatsaansa ja joutui unionin joukkojen vangiksi. Kersantti Leigh Blanton 1. Virginian jalkaväestä pelasti hänet. Haavoittunut Kemper kannettiin takaisin unionin linjoille Seminary Ridgeen. Lee kysyi hänen tilansa vakavuutta, ja Kemper pelkäsi sen olevan kuolettava. Hän pyysi Leetä "tekemään täyden oikeutuksen hänen divisioonansa työlle tänään".