Hau Pei-tsun kom fra en velstående familie i den kinesiske kystprovinsen Jiangsu. Under den andre japansk-kinesiske krig 1937–1945 kjempet han på forskjellige fronter mot den japanske invasjonshær og i en periode i de kinesiske styrker i India. Han fikk så høyere offisersutdannelse ved Republikken Kinas militærakademi (da fortsatt på den kinesiske fastland) og ble uteksaminert i 1946.