水梓祖父原在甘肃河州(今临夏广河县三甲集镇水家村)，同治回乱，举家迁到榆中县龛谷乡(今小康营乡)，水梓父亲排行老五，同治六年只身来到兰州，初以沿街卖水为生，后来以专制毡帽毡靴生意維生。