Foreldrene var Þórarinn Kr. Eldjárn, bonde og lærer i Tjörn, og Sigrún Sigurhjartardóttir. Han tok eksamen i arkeologi ved Københavns Universitet og underviste senere ved Háskóli Íslands (Universitetet på Island). I 1957 fikk han doktorgrad for sine undersøkelser om før-kristne gravskikker på Island. Han ble senere leder av Nasjonalmuséet på Island.