Intervenne allora Ulysses S. Grant, amico di vecchia data di Parker, le cui forze soffrivano di una penuria di ingegneri; Parker si unì a Grant a Vicksburg (Mississippi). Fu nominato capitano nel 1863 e salì poi al grado di brigadiere generale. Parker divenne l'aiutante di Grant ed era presente quando il generale confederato Robert E. Lee si arrese nella Battaglia di Appomattox nell'aprile 1865. I documenti della resa furono vergati con la sua grafia. Durante questa resa, Lee scambiò Parker per un nero, ma si scusò dicendo: "Sono contento di vedere qui un vero americano". A quanto si dice, Parker rispose: "Siamo tutti americani, signore".