Rindt var sønn av en tysk far og en østerriksk mor. De bodde i bydelen Neustadt i Mainz, hvor de drev krydderfirmaet "Klein &amp; Rindt". Da han var bare 15 måneder gammel ble foreldrene drept under det allierte bombeangrepet på Hamburg i 1943. Rindt vokste deretter opp hos sine besteforeldre i Graz, hvor han tidlig begynte med motorsport. Etter anbefaling fra sin bestefar, som var advokat, beholdt han sitt tyske statsborgerskap og sitt tyske pass. Selv om han aldri ble østerriksk statsborger, kjørte imidlertid Rindt gjennom hele sin karriere med en østerriksk racinglisens, og han er dermed blitt betraktet som østerriksk helt fra sin død til i dag. Men også i samtidige offisielle dokumenter fra FIA oppgis han å være østerriker. Rindt hadde sitt bosted ved Genfersjøen i Sveits.