Hijo del guitarrista Bucky Pizzarelli, John empezó a cantar con su padre a los 20 años e hizo su grabación de debut en 1983 con "I'm Hip -- Please Don't Tell My Father".