Herbert Backe var sønn av en pensjonert prøyssisk løytnant som var blitt handelsmann. Hans mor var kaukasustysk, av en familie som hadde emigrert fra Württemberg til Russland tidlig på 1800-tallet.