大清同治十二年生于浙江宁波府慈溪县一个基督教世家，祖籍绍兴府余姚县泗门谢氏，因而文献也作谢为绍兴人。其英文化姓“Zia”为余姚慈溪一带地方方言发音。父亲谢元芳为基督教长老会牧师，生前已在余姚慈溪一带传教，谢在家中兄妹五人中为长子。1892年谢赴上海，入美国监理会创办之着名的博习书院（Buffington Institute，今属东吴大学）就读。因英文颇佳而驻校协助校长翻译西方科学、宗教书籍。1895年毕业，留校在图书馆任职，1896年任教授。后创建中华基督教青年会（YMCA），在上海中西书院创办"幼徒会"