Weber var fra 2002 til 2004 medlem av Bayerns landdag og fra 2003 til 2007 leder av Junge Union Bayern. Han var fra 2008 til 2014 leder av CSU i Niederbayern. Fra 2009 ledet han 2014 programkomiteen (Grundsatzkommission) i CSU. I 2015 ble han valgt som stedfortredende partileder i CSU.