He Long var sønn av en lavere offiser som også var medlem av Gelaohui (), et hemmelig selskap som fantes allerede ved begynnelsen av Qing-dynastiets tid. Han fikk ingen skolegang, i barne- og ungdomsårene gjette han kveg.