Sandbergers far var produksjonssjef hos IG Farben og familien flyttet etter hvert til Frankfurt (der Martin Sandberger tok artium i 1929) og senere til Württemberg der foreldrene kom fra. Sandberger begynte å studere jus i Frankfurt og fullførte studiet ved Universitetet i Tübingen (1933). Han ble beskrevet som brilliant i faget og nazielitens yndling. Sandberger tok doktorgraden i jus i 1935.