Han grunnla i 1955 Leonhardt-Consort og ble kjent som tolker av Johann Sebastian Bachs musikk. Sammen med Nikolaus Harnoncourt regnes Leonhardt som en av pionerene for historisk oppføringspraksis. Han ble gjesteprofessor ved Harvard University i USA i 1969. Sammen med Harnoncourt gjennomførte han et prosjekt som laget innspillinger av samtlige kantater av Bach. Fra 1988 har han undervist også ved Accademia Musicale Chigiana i Siena.