В 1956 году на VIII съезде КПК избирается членом Центрального комитета КПК. В 1957 году Новодемократический союз молодёжи Китая переименовывается в Коммунистический союз молодёжи Китая и Ху Яобан становится его первым секретарем. В 1965 году назначается вторым секретарём ЦК КПК северо-западного района Китая и первым секретарём парткома провинции Шэньси.