Al principi, l'Arxiu Municipal Administratiu va mantenir la ubicació que tenia quan estava unificat, en concret a la segona planta de la Casa de la Ciutat, a la plaça de Sant Jaume, fins que, el 1927, va ser necessari alleugerir els serveis administratius ubicats a l'Ajuntament amb motiu de la preparació de l'Exposició Internacional de Barcelona del 1929. Es van plantejar diverses opcions per allotjar l'Arxiu, com ara construir un edifici nou que tingués les solucions tècniques necessàries per al correcte tractament i custòdia dels fons dipositats. Finalment, però, aquesta opció no va reeixir i es va optar per traslladar l'Arxiu al carrer de la Ciutat, on recentment s'havia construït un edifici per a dependències municipals. Allà hi va tenir la seu fins a l'any 1946.