Zarlino studerte både musikk og teologi, og gikk i 1537 inn i fransiskanerordenen. Han virket først ved hjemstedets katedral; fra 1536 som sanger og fra 1539 som diakon og førsteorganist. I 1540 ble han ordinert til prest og året etter studerte han med Adrian Willaert, ved Markuskirken i Venezia. I 1565 fikk Zarlino selv denne prestisjefylte posten etter at Cipriano de Rore sa den fra seg, og bekledte den fram til sin død.