Da Aust-Agder-Arkivet ble etablert i 1938 var oppgaven å bevare arkiv fra Aust-Agder, Arendal og eventuelt andre byer i fylket. Bakgrunnen for etableringen var redselen for arkiver fra fylket og Arendal skulle overføres til det nyopprettede Statsarkivet i Kristiansand. På 1950-tallet startet byggingen av et nytt museums- og arkivbygg på Langsæ i Arendal. Bygget stod ferdig i 1958. Samtidig ble Aust-Agder-Arkivet skilt ut som en egen institusjon og Olav Anton Aalholm ble ansatt som fylkesarkivar. Han var i praksis ansatt ved Statsarkivet i Kristiansand, med arbeidsplass i Arendal.