Altmaier er fra 1994 medlem av Forbundsdagen. Der var han fra 1998 til 2000 leder av underutvalget for europarett. Han var del av en samtalegruppe av unge politikere bestående av kristeligdemokrater og «grønne» politikere, den såkalte . Altmaier var fra 2002 til 2005 medlem av styret for CDUs gruppe i Forbundsdagen og fra 2009 første administrative leder av gruppen.