Som komponist ble Rameau først oppdaget i 1730-årene, da han var i femtiårene. Hans første opera, , ble oppført i 1733, da han var 50 år gammel. Rameau beveget seg mellom Lullys tragédies en musique-operaer til Opéra-ballet, for eksempel , som var friere i formen. Deretter beveget han seg til mer tradisjonelle operaer, og hadde spesiell suksess med , som var langt friere fra Lullys stil. Rameaus nye musikkstil, basert på hans musikkteori, provoserte tilhengerne av Lully så mye at det ble en form for kamp innen Paris' intelligentsia mellom lullistene og ramistene. Uavhengig av kampen og anklagen om at Rameaus musikk var vanskelig, grotesk, mekanisk og unaturlig, ble Rameau populær, og fikk fransk opera på fote igjen. Han var dermed også den første franskfødte komponist som hadde større suksess med opera.