Jón var medlem av det daværende partiet Íhaldsflokkurinn (1924-29), og var partiets eneste formann. Partiet bidro senere til dannelsen av Sjálfstæðisflokkurinn, hvor Jon var formann 1929-34. Han var utdannet ingeniør fra Polyteknisk Læreanstalt i København. Jón var Reykjavíks borgermester fra 30. desember 1932 fram til sin død.