Mann beskrev seg selv om et trommespiller og pianoklimprer fra han var et barn. I 1972 studerte han ved Hartt College of Music i Connecticut, men i 1973 ble han med i et band med Tommy Mars, og samme året studerte han musikk med John Bergamo ved California Institute of the Arts. I 1977 fikk Bergamo forespørsel fra Frank Zappa om å legge ekstra lydspor på albumet og Bergamo anbefalte at oppgaven gikk til Ed Mann. Mann skal ha anbefalt sin venn Tommy Mars til Zappa, da denne var på søk etter pianispiller, men da ble Mann selv invitert til Zappas hjem. Hos Zappa møtte Mann bandmedlemmene Terry Bozzio, Patrick O'Hearn og Adrian Belew og samme natt ble Mann med i bandet.