Faren Heinrich var bymusikant i Eilenburg og gav sønnen undervisning i ulike musikkinstrumenter som bymusikantene brukte, eksempelvis trompet, zink, traversofløyte, dulsian, «quart» posaune, kornett og fagott. Han gikk på en av de to latinskolene i Leipzig, sannsynligvis . Etter at faren ble utnevnt til bymusikant i Eilenburg fikk Zachow orgelundervisning av byens organist, Johann Hildebrandt, og ytterlige musikalske impulser av Johann Schelle, som fra 1677 var i Leipzig, og av Basilius Petritz som var kantor ved Dresdner Kreuzkirche.