Ved siden av arbeidet som murer og dirigent, forfattet Zelter musikkpedagogiske skrifter og underviste en rekke elever. Av de mest kjente er Otto Nicolai, Giacomo Meyerbeer, Eduard Grell, og ikke minst søsknene Felix og Fanny Mendelssohn.