Andre kruttlagre har også eksistert på festningen. Allerede nevnt er Gyldenløves tårn. Etter at dette eksploderte bygde man et nytt lager under Kongens batteri og senere mellom provianthuset og festningsmuren.