Mangione vokste opp i Rochester, NY, og utga tre plater sammen med sin bror Gap Mangione. Han studerte 1958-63 ved Eastman School of Music, University of Rochester, og fungerte som utgiver og produsent med skolens ensemble og på 1960-tallet.