1996年，首次当选众议员，曾任自民党副干事长、国土交通大臣政务官、经济产业大臣政务官、总务副大臣等，属自民党丹羽古贺派。1998年，又当选众议员，加入平成政研会，后因拒绝在党总裁选举中支持小渊惠三而脱离平成政研会。2006年9月26日，安倍晋三首次当选日本首相后，菅义伟被任命为第1次安倍内阁的总务大臣。2012年9月27日，安倍晋三再次出任自民党总裁后，任命原总务大臣菅义伟为自由民主党代理干事长，主管选举事务。2012年12月26日，随着安倍晋三再次成为首相，被任命为内阁官房长官。