哀帝、汉平帝时蔡茂以儒学知名，试用为博士，对于治理灾害的政策答案优异，升任议郎，转任侍中。居摄年间因病辞职，他不仕于王莽。新末天下騒乱，蔡茂与窦融交好，于是投奔占据河西的窦融。窦融任命蔡茂为张掖郡太守，蔡茂固辞，接受俸给以供家用。后和窦融一起被汉光武帝征召，再被任命为议郎，转任广汉郡太守。广汉郡（今四川省广汉市）阴氏宾客多次犯禁，蔡茂不怕外戚，纠弹他们的罪责。蔡茂政绩优秀。洛阳令董宣弹劾汉光武帝的姐姐湖阳公主刘黄，蔡茂喜欢董宣的刚直，以禁止朝廷外戚专横的目的，建议光武帝任用董宣。光武帝采纳了他的意见