从事史，将兖州州事都交给他处理。不久先后转任中军谘议参军及太尉从事中郎，但尚未拜任从事中郎就因为母守三年丧而离职。丧期过后刘裕已为相国，重新命蔡廊为从事中郎，领记室。因着刘裕受封宋公，建宋国，蔡廓转任宋国侍中。后来世子左衞率谢灵运随意杀人，御史中丞王准之因没有上奏弹劾灵运而被免职，刘裕看中蔡廓为人刚直，容忍不了不合正道之事的特质而让其补上御史中丞一职。蔡廓上任后多有奏报，群僚见此亦慑于其威，风气肃然。当时的中书令傅亮很受刘裕重用，才学也是当时最优秀的，故其时朝廷礼仪和典章都由傅亮决定，谘询蔡廓后才实施。