Rabanne ble født i Pasajes i provinsen Gipuzkoa i Baskerland. Han rømte til Frankrike med sin mor da den spanske borgerkrigen brøt ut. Han fikk i utgangspunktet arkitektutdannelse, men begynte som smykkedesigner for Givenchy, Dior og Balenciaga. Rabanne ble kjent som en i den franske moteverdenen på 1960-tallet. Han ble blant annet kjent for å bruke ukonvensjonelle materialer som metall, papir og plast.