I 1666 ble Karls gravminne oppdaget i basilikakirken for sankt Servatius, Sint-Servaasbasiliek, i Maastricht. Hans hud synes å ha blitt gravlagt her i 1001, men det er ikke hans dødsdato som de fleste historikere har antatt.