刘茂叔父是汉顺帝时的司徒刘光，他年轻熟读经史，有远志。举孝廉，任雍丘令，施行教化，息讼劝善。在任四年，母亡去职回乡服丧。丧满后，太尉胡广推荐他贤良方正，官至尚书令。梁冀专权，他自请出任常山国相。梁冀死后，他任太常。汉桓帝延熹四年（161年）十月，太尉黄琼卸任，刘矩被任命为太尉。次年，因南方蛮夷反乱，刘矩被免职，杨秉继任。汉灵帝建宁元年（168年），刘矩接替周景再任太尉，同年因日食免职。