Sarkozy var leder for Unionen for en folkebevegelse (UMP). Da Jacques Chirac satt som president var Sarkozy innenriksminister i regjeringen hans, deretter ble han utnevnt til minister for økonomi i Jean-Pierre Raffarins siste regjering mellom mars 2004 og mai 2005. Sarkozy ble utnevnt til innenriksminister igjen i Dominique de Villepins regjering, som satt ved makten i Frankrike i perioden 2005-2007.