Under Gamlebyen ligger pave Cølestin Vs grav i kirken Santa Maria di Collemaggio utenfor byportene. Der hadde han før han ble valgt til pave ryddet et eneboersted, og det var her han ble intronisert. Basilikaen ble påbegynt i 1287 og har en bemerkelsesverdig hvit-rosa mønstret romansk-gotisk fasade.