7年他任滨江道尹兼哈尔滨交涉员。1928年担任滨江道尹时曾掩护周恩来出境赴苏联。后来他还历任东北边防军司令长官公署参议、东北政务委员会委员。1929年，蔡运升受张学良之命，担任中方谈判代表，与苏联方面签订《伯力会议议定书》，解决中东路事件。但之后被国民政府指责为擅签和约，被迫下野。此后他任东北边防军司令长官公署参议。1931年九一八事变后，蔡运升加入满洲国政府，曾前往游说张作相。1934年（康德元年）11月，他担任满洲国间岛省省长。1935年3月，国务总理大臣郑孝胥辞任，郑孝胥推荐蔡运升继任，结果关