En mayo de 2012, una vez asumido el cargo, el presidente Francois Hollande lo designó ministro de Asuntos Exteriores. Como ministro, su papel fue decisivo en temas como la retirada de tropas francesas de Afganistán, la Guerra de Siria y los conflictos en Mali (Operación Serval), Somalia y la República Centroafricana. Tuvo un papel decisivo además como mediador en las negociaciones acerca del programa nuclear iraní así como en el acuerdo para enfrentar el cambio climático adoptado en la XXI Conferencia sobre Cambio Climático celebrada en París a finales de 2015, la cual presidió. El 10 de febrero de 2016 presentó su renuncia como ministro, siendo nombrado presidente del Consejo Constitucional en marzo del mismo año.