953年，划船总会被上海市军管会接管。1956年春，国家体委组建上海市划船俱乐部，俱乐部则隶属于上海市体育局。1958年5月，俱乐部正式成立。1966年，划船俱乐部被撤销。1973年4月，上海市划船俱乐部恢复，部分基地被归还。上海市划船俱乐部总部搬迁至徐汇区龙吴路1594号。2010年，位于黄浦区的划船俱乐部原总部建筑修复完成。