En la Guerra Civil estadounidense, Mahone era partidario de la secesión y sirvió como general en el ejército confederado del sur. Se le conoce sobre todo por haber recuperado la iniciativa en el asedio de Petersburg, Virginia, al final de la guerra, mientras las tropas del Sur estaban conmocionadas tras la explosión de una enorme mina/carga de barriles de pólvora negra bajo ellos por parte de las tropas del Ejército de la Unión, que excavaban túneles y eran mineros del carbón, lo que dio lugar a la Batalla del Cráter en julio de 1864; su contraataque convirtió el enfrentamiento en una desastrosa derrota de la Unión.