Diệm avsluttet utdannelsen i 1921 som den beste på sitt kull, og gikk inn i offentlig tjeneste hvor han raskt steg i gradene. Allerede som 25-åring hadde av ansvaret for et området som inkludere 300 landsbyer. Han skal ha gjort seg positivt bemerket ved sin store arbeidsinnsats, men samtidige pådratt seg franskmennenes irritasjon over å stadig referere til vietnamesisk uavhengighet. Men det var også på denne tiden han møtte kommunistiske motstandsgrupper, og han engasjerte seg i bekjempelsen av disse. I 1929 sto han for arrestasjoner var kommunistiske agitatorer innen sine områder.