Da Magnus ble voksen, ble Jon en av mennene hans. Magnus kjempet da om kongedømmet med Sverre Sigurdsson. Magnus' menn, som Jon tilhørte, ble kalt heklunger. I fortelles det at Jon og sønnene hans var blant dem som fikk grid av Sverre utenfor Mariakirken i Bergen etter kamper mellom Sverre og Magnus. Videre fortelles det at Jon ville være hos kong Sverre, men at Sverre var negativ fordi Jon to ganger tidligere hadde sverget seg tro mot Sverre, men brutt løftet og gått tilbake til Magnus. Likevel lot Sverre Jon få bli med i flokken hans, men Jon fór atter en gang tilbake til Magnus.