1896年初，许地山三岁时（约18个月）随母、大伯父、婶等二十多位家人由安平港坐船逃难到潮汕，住汕头鮀浦（今广东省汕头地级市金平区鮀莲街道）桃都的许家祠堂，1896年在鮀浦由吴献堂先生开蒙。父亲许南英在台湾民主国事败后从安平经厦门到汕头依亲，到东南亚暹罗、新加坡等地发展，后来寄籍福建漳州龙溪，在广东工作。从父亲南洋回到广东后，许地山跟随家人移居广州府城，在广州读书多年，学会了广州话、粤曲、粤讴、琵琶。许地山母语是台湾话，从小受书斋的传统汉学教育，在广州入读新式学堂，能操流利的广州话、漳州话、官话及英文。