Ele então se tornou Ministro da Defesa novamente. Sua proposta de uma Comunidade Européia de Defesa, na qual integraria uma Alemanha rearmada, conhecida como Plano Pleven, foi derrotada pelos gaullistas, comunistas e socialistas. Ele também defendeu uma mão dura na defesa do domínio colonial francês na Indochina. Em 1953, ele renunciou ao cargo de presidente da UDSR depois que seu partido apoiou as negociações de paz no Vietnã. Ministro da Defesa de 1952 a 1954, foi o responsável quando os franceses perderam a Batalha de Dien Bien Phu, iniciando a queda da hegemonia francesa em toda a região. Em 1957, o presidente René Coty ofereceu-o para se tornar primeiro-ministro novamente, mas ele recusou. Em vez disso, ele se tornou o último ministro das Relações Exteriores da Quarta República em 1958.