Il est ensuite ministre de l’Intérieur, de à , dans les gouvernements Debré et Georges Pompidou. Il met en place une police parallèle, les Barbouzes, pour lutter contre les activités de l’OAS à la fin de la guerre d’Algérie. Il fait réprimer une manifestation d’Algériens le , au cours de laquelle plusieurs dizaines d'Algériens sont tués par la police et jetés dans la Seine. La gauche critique son action lors de la manifestation au métro Charonne en 1962. L’enlèvement de Mehdi Ben Barka par des policiers marocains a lieu en 1965 alors qu’il est place Beauvau.