Etter farens første musikalske undervisning kom Pisendel i 1697 til hoffkapellet i Ansbach hvor han fikk undervisning av Francesco Antonio Pistocchi og Giuseppe Torelli. Selv om hoffkapellet ble redusert i 1703, fikk Pisendel likevel senere ansettelse som fiolinist. I mars 1709 reiste han til Leipzig, og underveis møtte han Bach i Weimar. Under en reise i 1711 ble han kjent med Georg Philipp Telemann i Eisenach og Christoph Graupner i Darmstadt.