Legrenzi fikk den første musikkutdannelsen av faren, som var fiolinist og komponist. I 1645 ble den 19 år gamle Giovanni ansatt som organist ved kirken i Bergamo, og etter at han ble presteviet i 1651, ble han også satt inn som sjelesørger. Han samarbeidet tett med kapellmester Maurizio Cazzati, og deres triosonater i kirkesonatestil ble oppført under messene.