Kerll var sønn av Catharina Hendel og orgelbygger og organist Caspar Kerll, og fikk sannsynligvis den første undervisningen av faren. Senere utdannelse førte ham til Wien og Roma (rundt 1645 til 1649) hvor han studerte med Giacomo Carissimi og kanskje med Girolamo Frescobaldi (sammen med Johann Jakob Froberger?). På denne tiden konverterte han til katolisismen – en viktig forutsetning for hans videre karriere i det sydtyske og østerrikske området. Fra 1656 til 1674 var han leder av hoffkapellet og operaen i München. Deretter reiste han til Wien for virket som hofforganist, organist ved Stefansdomen og som lærer på klaviaturinstrumenter. I 1683 eller 1684 vendte han tilbake til München. Lite er kjent om denne tiden.