国大夫白善建立，称白公城。传说秦始皇南巡经过此地，见风景旖旎，建“望江亭”。三国时期，易守难攻的邵阳城成为蜀相诸葛亮占据的一个战略要地，驻兵此地，建点将台。湖南境内有湘江、资江、沅江和澧江四条大江汇入洞庭湖。两江交汇，水量大，泥沙淤积大，春夏间多发洪水，明朝万历年间在官府的牵头下，由地方百姓合资兴建水府庙，祈求河神保佑水路平安、风调雨顺。道光年间重修。1978年大修。2007年由于城市防洪工程需要，将水府庙整体抬升2.8米，避免建筑被防洪堤遮挡。
建筑结构.现存水府庙古建筑为戏楼，