Quoique mis en disponibilité sur sa demande en 1960, Jouhaud est l'un des quatre généraux cinq étoiles organisateurs du coup d’état d’Alger du 22 au , avec Challe, Salan et Zeller. Après son échec, il vit dans la clandestinité et devient l’adjoint du général Salan à la tête de l’OAS, responsable de la région d’Oran.