W 1937 powołany do służby wojskowej. Gdy doszło do kapitulacji Francji w trakcie II wojny światowej, służył w piechocie kolonialnej. Znalazł się w grupie Francuzów, która przejęła włoski statek towarowy, a następnie przez Gibraltar przedostała się do Londynu. Pierre Messmer dołączył do sił Wolnej Francji generała Charles’a de Gaulle’a. Przydzielony do 13 Półbrygady Legii Cudzoziemskiej. Uczestniczył w kampaniach w Erytrei, Syrii, Libii i Tunezji. Dołączył następnie do sztabu generała w Londynie. Brał udział w kolejnych działaniach wojennych – lądowaniu w Normandii i wyzwoleniu Paryża. W sierpniu 1945 przybył do Indochin Francuskich (zrzucono go na spadochronie nad Tonkinem); został tam pojmany przez członków organizacji Việt Minh. W październiku tegoż roku uciekł z niewoli i przedostał się do Hanoi.