Utenom det lokalhistoriske forfatterskapet var Forstrøm opptatt av å redde de historiske minnesmerkene som fortsatt fantes i Halden og sto i fare for å gå tapt. Roger Prang omtaler ham som «den lokale vaktbikkje når historiske verdier sto på spill». I mange år var han formann i selskapet «Haldens Minder», som opprettet et museum i Fayegården (senere en del av Halden historiske Samlinger).