Jean-Philippe Rameaus far var organist i katedralen i Dijon, og Jean-Philippe begynte å spille cembalo da han var svært ung. Han studerte jus, men skulle imidlertid følge i farens fotspor og forsørtget seg som organist. I sin ungdom var Rameau en tid i Italia.