Albrecht Ritter Mertz von Quirnheim ble født som sønn av kaptein i den bayerske generalstab Hermann Ritter Mertz von Quirnheim. Ungdommen tilbragte han først i München, og senere flyttet familien til Potsdam, hvor faren ble leder av Riksarkivet. Allerede som ung mann lærte han å kjenne Werner von Haeften og Hans Bernd von Haeften.