Rüttgers var medlem av det tyske parlamentet mellom 1987 og 2000, og var en periode parlamentarisk forretningsfører og senere viseformann for CDU/CSU-fraksjonen. Siden 2000 er han medlem av landdagen i Nordrhein-Westfalen og formann for CDU-fraksjonen der.