Som klatrer mestret Heckmair ekstreme vegger i Øst- og Vest-Alpene, og i Dolomittene. Juli 1938 førstebesteg han Eigers nordvegg sammen med sin venn Ludwig Vörg og østerrikerne Fritz Kasparek og Heinrich Harrer. Som den mest erfarne i gruppa, tok Heckmair føringen over de vanskeligste partiene under oppstigningen. Likevel fikk han flere problemer, blant annet gled han, men ble reddet av Vörg som fikk hånda gjennomboret av Heckmairs kramponger da han grep ham i foten. Ruta de brukte, , er den mest kjente og brukte ruta på Eigers nordvegg.