和举秀才，并先后获州府及东海王司马越辟命，但蔡谟都不应命。及后更南渡江南避乱。到后，则被时为东中郎将的晋明帝请为参军。建兴三年（315年），晋愍帝任命晋元帝为丞相，晋元帝于是以蔡谟为掾，后转参军。东晋建立后先后任中书侍郎、义兴太守、大将军从事中郎、司徒左长史，侍中等职。
苏峻之乱.咸和三年（328年），历阳内史苏峻率叛军攻陷建康，并派兵攻伐吴国内史庾冰。庾冰无力抵抗，被逼逃到会稽，苏峻于是以蔡谟为吴国内史。但蔡谟上任后就与张闿、顾众、顾飏等响应王舒、虞潭起义，并让回吴国内史一职给庾