蔡运升1903年进入保定法政学堂念书，毕业后入浙江巡抚衙门为文案。辛亥革命爆发后回乡，任双城中学校长。不久，应宋小濂邀请，加入黑龙江都督府任参事。1915年5月他任黑龙江政务厅厅长，1916年11月辞职。1918年他任吉林省实业厅厅长兼永衡官银号总办、中东铁路坐办。1920年，他署吉长道尹兼长春交涉员，1927年他任滨江道尹兼哈尔滨交涉员。1928年担任滨江道尹时曾掩护周恩来出境赴苏联。后来他还历任东北边防军司令长官公署参议、东北政务委员会委员。1929年，蔡运升受张学良之命，担任中方谈判代表，与苏联方