Quirnheim is geboren in de Beierse hoofdstad München. Zijn vader was Hermann Ritter Mertz von Quirnheim, een kapitein van de Beierse Generale Staf. Quirnheim heeft zijn gehele jeugd in München gewoond, totdat zijn vader hoofd van het "Reichsarchiv" werd en het gehele gezin naar Potsdam verhuisde. Als kind raakte Quirnheim bevriend met onder anderen Hans-Jürgen von Blumenthal, en de gebroeders Werner von Haeften en Hans-Bernd von Haeften. Deze drie waren al in een vroeg stadium betrokken bij de aanslag op Hitler op 20 juli. Na zijn eindexamen, werd Quirnheim lid van de zogenaamde Reichswehr in 1923. In 1925 ontmoette hij Claus von Stauffenberg, die in het complot van 20 juli een belangrijke rol zou gaan spelen. Toen de Tweede Wereldoorlog uitbrak, werd Quirnheim benoemd tot officier op de Generale Staf.