Han var sønn av godseier og finansminister i Danmark Regnar Westenholz, og var onkel til Karen Blixen. Westenholz tjente en formue som forretningsmann i Siam, og fra omkring 1900 til sin død ble han kjent for sitt arbeid for opprettelsen av frivillige korps til Danmarks forsvar, de såkalte rekylkorps. Han var medeier og styreleder i firmaet som eide Karen Blixens kaffefarm, Karen Coffee Company Ltd. Han fikk oppført den herskapelige hovedbygningen på sin eiendom Magleås i 1910.