Jakob Erlandsen døde på Rügen på vei hjem fra Roma i 1274, og det er senere blitt antydet at han ble myrdet med en pil fra en armbrøst. Det har dog intet hold i virkeligheten. Han ble begravet i fransiskanernes klosterkirke i Lund. Embedet i Lund overgikk til hans bror Erland Erlandsen.