Jon Larsen har vært aktiv som komponist gjennom hele sin musikerkarriere. Den første innspillingen hans med egen musikk fant sted i 1984, da Hot Club de Norvège spilte inn Hans første større verk var (1993). Fra 1995 ble han komponist på heltid, og har skrevet store deler av repertoaret til Hot Club de Norvège, i tillegg til strykekvartetter, symfoniske verk, lydbøker, samt musikk for Frank Zappas tidligere band. I 2007 begynte han også å skrive tekster. Han var initiativtaker til Symphonic Django.