1987年、ソ連最初の政治クラブ「討論の演壇」を創設する。1989年3月、ソ連人民代議員に当選し、最高会議議員にも選出された。1990年、ソ連共産党を離党する。同年1月、エリツィン・議長全権代表兼直属調整顧問会議議長となり、エリツィン最側近となる。1991年6月のロシア大統領選挙では、エリツィン陣営の選挙参謀として、選挙運動を指揮した。かくてエリツィン大統領が誕生すると、国務長官（1991年 - 1992年「ロシア連邦国務長官」、1992年5月 - 11月「ロシア連邦大統領直属国家評議会書記」を兼務）になる。1991年11月から第一副首相を兼任、エリツィン政権内のナンバー2になる。1991年12月7日・8日の両日「ベロヴェーシの森の陰謀」と呼ばれるエリツィン、クラフチュク・ウクライナ大統領、シュシケビッチ・ベラルーシ最高会議議長のスラヴ3首脳によるソ連解体の筋書きを作った張本人とされる。このような政界の黒幕的性格から「灰色の枢機卿」とあだ名される。