1990年代前期至中期，格拉契夫成了俄羅斯總統鲍里斯·尼古拉耶维奇·叶利钦最親密的一位朋友。1991年，蘇聯發生了「八一九事件」，格拉契夫涉入其中，為叶利钦的支持者。1992年5月，格拉契夫被任命為俄羅斯聯邦國防部長。1993年，俄羅斯又發生了宪政危机，格拉契夫表態支持葉爾欽，為此事件的關鍵人物之一。1994年11月，葉爾欽稱格拉契夫為「十年來最好的國防部長」。