Après les législatives de 1993, il redevient ministre sous la deuxième cohabitation : il est ministère du logement dans le gouvernement Balladur. Après son soutien à Jacques Chirac durant l'élection présidentielle de 1995, il reste au gouvernement mais détient désormais le prestigieux maroquin de ministre des Affaires étrangères. En 1996, il se rend en Algérie peu après l'enlèvement des moines de Tibhirine et modifie en cours de route le programme de son voyage afin de pouvoir s'informer sur les circonstances du drame, en ne se donnant , modification à laquelle les autorités algériennes tentent de s'opposer. Philippe Étienne, directeur adjoint de cabinet d’Hervé de Charette, posera alors plusieurs fois la question : .