领襄阳太守，后迁任员外散骑常侍、吏部郎，再转任吏部尚书，军国事务都交给他处理。其后萧詧加授他大将军、迁任尚书仆射、进号辅国将军，亦给他使持节、宣惠将军、雍州刺史。萧詧称帝建立后梁，征任蔡大宝为侍中、尚书令、参掌选事，又加号云麾将军，授荆州刺史；之后进柱国、军师将军，领太子少傅，转安前将军，封安丰县侯，食邑一千户。他跟从太子萧岿入朝北周时领任太子少傅；到萧岿嗣位为梁明帝，册授蔡大宝司空、中书监、中权大将军，领吏部尚书，他辞让司空职务，梁明帝批准。天保三年（564年），蔡大宝去世，梁明帝放声痛哭，死后到下葬