1922年，考入山西省立第一中学。1925年初，加入中国社会主义青年团，同年夏转为中国共产党党员。同年底，中共太原地方委员会成立，汪铭任地委技术书记。四一二政变后，阎锡山开始在山西清党，汪铭临危受命，以省委特派员的身份，秘密往返太原、晋中等地开展地下工工作。1928年，任中共山西临时省委委员，后任中共山西省委书记。