民国初期，东北三省实行省、道、县三级管理制，民国二年（1913年）由府改县，绥化市大部分县属绥兰道。民国十八年（1929年）东北政务委员会成立，废道制，县归省直接管辖。海伦、绥化为一等县，肇东、兰西、青冈、安达、望奎、庆城为二等县，绥棱、明水为三等县。满洲国时期，绥化市划归当时的滨江省管辖。后有几次变动，但全市绝大部分市县仍归滨江省管辖。第二次国共战争时期，庆城（庆安）、绥棱、海伦、望奎、绥化、明水和青冈、兰西、安达、肇东等县分属当时的黑龙江省和嫩江省管辖。1949年前夕，全市10个市县均划归黑龙江省管辖。