Pendant le putsch d'Alger, il est adjoint marine du général Challe, l'un des quatre organisateurs ; à l'issue du putsch, il est condamné à quatre ans de prison avec sursis. Il s'engage alors dans la clandestinité, aux côtés de l’OAS avec les généraux Salan et Jouhaud. Arrêté en mai 1962, Pierre Guillaume est condamné à huit ans de détention et emprisonné, pendant quatre ans, à la prison de Tulle avec les généraux Salan et Jouhaud, les colonels de Sèze et de La Chapelle, les commandants Camelin, Robin et Denoix de Saint Marc.