Gabrieli var elev av nederlenderen Adrian Willaert som var kapellmester i Markuskirken, og var fra 1536 sanger i kirken. Senere var han en periode hos Vincenzo Ruffo i Verona, men fra 1566 var han tilbake i Markuskirken, nå som andreorganist. Fra 1585 og fram til sin død hadde han stillingen som førsteorganist i Markuskirken, en av de mest prestisjefylte musikkpostene i Nord-Italia.