Heffermehl ble født i Sørfold i Nordland, som sønn av sogneprest til Folda prestegjeld og stortingsrepresentant Jørgen Meier Heffermehl og Marie Helene (født Støren). Familien flyttet til Gloppen kommune i Nordfjord i midt på 1840-tallet. Abraham Heffermehl ble senere res. kapellan på Breim i Gloppen.