Massu opiskeli Saint-Cyrin sotakoulussa. Natsimiehityksen jälkeen 1940 Massu toimi maanalaisessa armeijassa. Sodan päätyttyä Euroopassa Massu johti laskuvarjojääkäreitä Indokiinassa vuoteen 1947 saakka ja sitten Suezin taisteluissa. Vuonna 1957 Massu nimitettiin Algerian sotilaspiirin komentajaksi ja ryhtyi laskuvarjojoukkoineen hajottamaan Kansallisen vapautusrintaman (FLN) organisaatiota kovin ottein, jopa laajamittaiseen kidutukseen turvautuen. Vuonna 1958 hän osallistui kenraalien johtamaan kapinaan, joka vaikutti merkittävästi Charles de Gaullen valtaannousuun. Massu erosi armeijasta 1960 eikä osallistunut vuoden 1961 kenraalien kapinaan, joka pyrki estämään Algerian itsenäistymisen. De Gaulle kutsui Massun Metzin sotilaspiirin komentajaksi.