Родился в Фейербахе, пригороде Штутгарта, который был тогда столицей королевства Вюртемберг. Его отец был крестьянином, позже ставшим работником завода. Детство Генриха Рау прошло в соседнем городе Цуффенхаузен, который, как и Фейербах, ныне является частью Штутгарта. Окончив школу в 1913 году, стал оператором пресса на обувной фабрике. В ноябре того же года он сменил работодателя и устроился на завод Боша в Фейербахе — там он обрёл навыки работы с прессом для металла. Оставался сотрудником фабрики до 1920 года с перерывом в 1917—1919 годах, обусловленным военной службой и участием в революции.