1897年，俄国修筑的东清铁路开通，绥芬河一带的地域成为了铁路的附属地，归由被沙俄操控的哈尔滨铁路管理局所管理。1921年，中华民国收回中东铁路的附属地的行政权，使绥芬河流域从新回到中国的控制。1926年，设置绥芬河市。从铁路开通之后，绥芬河地域依托绥芬河火车站成为了对俄贸的基地，促进了当地的经济繁荣。满洲国成立，绥芬河被纳入北满特别区。1945年被解放，改编成为绥阳县。1948年，绥阳县被编入东宁县。1968年设立绥芬河区革命委员会，隶属于牡丹江地区。1975年设立绥芬河市。1984年改为省辖财政