Buchheim var sønn av den tyske kunstmaleren Charlotte Buchheim (1891–1964). Han hadde en bror, Klaus Buchheim, som var to år yngre. I 1924 flyttet familien til Rochlitz i Sachsen, hvor han tilbrakte resten av barndommen, inntil familien flyttet til Chemnitz da han var 14 år. Han dro sammen med broren på en rekke sykkelturer, blant annet til Østersjøen og tegnet landskapsbilder som han senere reproduserte som linoleumstrykk. Han ble tidlig betraktet som et «malende vidunderbarn». Han produserte etter hvert bilder i en rekke ulike former og fikk sitt første offentlig oppdrag fra byen Chemitz som 17-åring.