Leiren ble etablert på slutten av sommeren 1943 som en underleier av Buchenwald konsentrasjonsleir som forsynte arbeidskraft til å utvide de nærliggende tunneler i Kohnstein og i industrien som bygde V-1, den flyvende bombe, V-2-raketten. I løpet av sommeren 1944 ble Mittelbau en selvstendig konsentrasjonsleir med mange egne underleire.