1903年，中东铁路局因应俄罗斯帝国官员的建议，在哈尔滨南岗的西大直街兴建这座建筑。俱乐部后在1905年迁至南岗，至1911年迁至此处。落成后，俱乐部在1919年和1923年先后两度扩建。1945年8月，佔领中国东北的大日本帝国战败投降，出兵东北的苏联红军接管了中东铁路俱乐部，易名为苏联红军会馆，只供校官以上军阶的军官到此娱乐。在中华人民共和国建国之初，苏联红军会馆仍然由苏联方面管理；直至1952年末，苏联方面把苏联红军会馆交由哈尔滨铁路局，会馆于是易名为哈尔滨铁路文化宫，由上流社会消遣场所变成铁路工人