溯到1906年（光绪32年）因推行新学而创办的师范速成班，1914年改名为黑龙江省立第一师范学校。1954年校名变更为齐齐哈尔市师范学校。1977年招收专科学生。1993年为全国“培养专科程度小学教师五年制试点校”。2004年，克山师范专科学校被齐齐哈尔大学合并，克山师专的师生合并给了齐齐哈尔大学，但学校的牌子实际给了当时仅为中专的齐齐哈尔师范学校，（往国家上报是说克山师专更名为齐齐哈尔师专，实际是借克山师专的牌子升格，因为齐齐哈尔师范学校根本不够升级为大专）。随后原齐齐哈尔师范学校和原齐齐哈尔幼儿师范