Connally ble innvalgt uten motkandidat til Texas House of Representatives i 1900 og i 1902. Han var da en ledende opponent mot monopoler og var med på å skrive delstaten Texas' av 1903.