Han var utdannet landbrukskandidat fra Landbrukshøgskolen på Ås. Han drev farsgården Amble fra 1895-1938 etter faren Hans Knagenhjelm Heiberg. Fra 1899-1916 var han i Sogndals herredstyre, varaordfører 1902-05 og ordfører 1911-1913. På gården bygget han den første museumsbygningen i 1905 og åpnet i 1909 De Heibergske Samlinger – Sogn Folkemuseum, i samme ånd som hans nære venn Anders Sandvig som i 1904 hadde åpnet de «Sandvigske samlinger» på Maihaugen. Samme året (1909) stiftet Gert Heiberg Historielaget for Sogn, og etterhvert ble samlingene i praksis et distriktsmuseum. Han virket også i Bergens museumsforening.