Mouzon var av afro-amerikansk, fransk og svartfot-indiansk avstamming og ble født i Charleston, Syd Carolina. Han fikk sin første musikalske undervisning ved Bonds-Wilson High School og flyttet til New York etter uteksaminering. Han studerte drama og musikk ved New York City College og medisin ved Manhattan Medical Schoo. Han fortsatte å få trommeundervisning av Bobby Thomas, trommeslager for jazzpianisten Billy Taylor. Han var perkusjonist i Broadwayshowet "Promises, Promises" og arbeidet så med pianisten McCoy Tyner. Siden var han medlem av Weather Report sammen med Joe Zawinul på keyboard og Wayne Shorter på saksofon. Etter dette ble Mouzon soloartist på plateselskapet Blue Note i 1972.