Greggin ensimmäinen suuri toimi Mississippissä oli Raymondin taistelu 12. toukokuuta 1863, missä hänen 3 000-miehinen prikaatinsa taisteli kovan kuuden tunnin taistelun 10 000 miehen Unionin XVII armeijakuntaa vastaan. Vihollisen voimia komensi Unionin kenraalimajuri James B. McPherson. Gregg pakotettiin perääntymään Jacksoniin Mississippiin Raymondin taistelun jälkeen, missä hän osallistui Jacksonin taisteluun 14. toukokuuta 1863.