Guðbergur utdannet seg ved Islands universitet for å få lærereksamen, og dro deretter til Universitetet i Barcelona for å utdanne seg innen litteratur. Hans tid i Spania gjorde ham til en av de ledende oversetterne av spansk litteratur på Island.