Yudhoyono gav opp sin militære karriere i 2000, og gikk inn i regjeringen til den daværende presidenten Abdurrahman Wahid. Han var i utgangspunktet minister for gruvedrift og energi, men fikk raskt den viktige stillingen som sikkerhetsminister.