Etter andre verdenskrig fikk Prouvé i oppdrag av den franske staten å tegne nødboliger og innledet i og med dette sin arkitektoniske løpebane. Han utviklet enkle ramme- og modulløsninger i stål, tre og aluminium som var kostnadseffektive å oppføre og lignende system ble hans varemerke gjennom hele karrieren. Foruten boliger passet hans strukturer seg vel for industri- og utstillingsbygninger. På 1950- og 1960-tallet ble Prouvé flittig benyttet i prosjekter rundt om i Frankrike, iblant i egenskap av konstruktør og i andre tilfeller som arkitekt. Han fortsatte også som designer av møbler fram til sin død 1984.