A levéltár történelme – hasonlóan a fővároséhoz – az értelmetlen pusztulás és a folyamatos újrakezdés váltakozásában zajlott. Pest és Buda viszontagságokkal teli sorsát tükrözi vissza a levéltárban őrzött iratanyag összetétele is: Pestnek és Budának az 1686 előtt időkből néhány irattól eltekintve nem maradtak fenn önálló dokumentumai. A 18. századtól kezdve indul számottevő gyarapodásnak a város igazgatása során keletkezett iratanyag. A növekedés törvényszerű velejárója a szinte folyamatos raktárhiány, miközben a történelem a következő évszázadokban sem – mint pl. a főváros 1944. évi ostroma, ami előtt jelentős irategyütteseket a Szent István-bazilika altemplomába menekítettek – kímélte meg a levéltárat az értelmetlen pusztítástól.