Det er få opplysninger om Karl Jonssons liv. Man kjenner ikke til hvem som var hans foreldre, hans fødested eller nøyaktige fødselsår. Det er nevnt i Sturlunga saga at han hadde en bror, Ingimund Jonsson. Karl ble abbed i klostret i Þingeyrar i det nordlige Island i 1169, men fratrådte i 1181. I 1185 reiste han til Norge, hvor han knyttet seg nær til Sverre. Etter den nye abbeden i Þingeyrars død i 1187 ble han abbed på ny, men man regner ikke med at han reiste tilbake til Island før i 1188. Karl fungerte som abbed på Island frem til 1207, da han nedla embetet. Han døde i 1212 eller 1213.