Mantler har gitt ut mange soloalbum med varierende instrumentering og personell, med vekt på hans arbeid som komponist, snarere enn som et band som leder. De spiller sjelden live, da han for det meste konsentrert seg om å komponere og opptak. Han har blant annet spilt inn et album med strykere fra London Symphony Orchestra pluss solister (), og flere album av tekster ved å bruke lyrikk av så forskjellige forfattere som Samuel Beckett (), Harold Pinter (), og Edward Gorey ().