Heimpel erhielt seine schulische Ausbildung am Theresien-Gymnasium München. Dort freundete er sich mit Albrecht Haushofer an. Im April 1920 kämpfte Heimpel im „Freikorps Epp“ im Ruhrgebiet gegen die Rote Ruhrarmee. Er studierte von 1920 bis 1924 Geschichte, Germanistik und Staatswissenschaften an den Universitäten München und Freiburg. Den Putschversuch von Adolf Hitler am 8. November 1923 im Münchener Bürgerbräukeller erlebte er als Augenzeuge mit. In München waren Siegmund Hellmann und Rudolf von Heckel als akademische Lehrer für Heimpel besonders prägend. Bei Heckel erwarb er Kenntnisse in Paläographie, Editionstechnik und Mittellatein. Hellmann ebnete Heimpel durch persönliche Empfehlungsschreiben den Weg nach Freiburg. Dort knüpfte er enge Kontakte mit Arnold Berney und Rudolf Stadelmann. Bei dem nationalkonservativen Professor für Mittlere Geschichte Georg von Below wurde Heimpel 1924 in Freiburg mit noch nicht 23 Jahren mit einer wirtschaftsgeschichtlichen Studie zum Gewerbe der Stadt Regensburg im Mittelalter promoviert. Die Dissertation wurde in erweiterter Fassung 1926 veröffentlicht. Below war ein entschiedener Feind der Demokratie und der Weimarer Republik. Heimpel versicherte später, dass Below „die Studenten mit seinen politischen Überzeugungen und Kämpfen“ verschont habe. Völlig wirkungslos blieb die politische Haltung des Lehrers auf seine Studenten aber wohl nicht, denn sie forderte letztlich zur Zustimmung oder Distanzierung heraus.