I 1848 satte Schwach seg ned for å skrive sin selvbiografi, som han kalte «Erindringer af mit Liv (indtil Ankomsten til Trondhjem, 1830)». I den perioden erindringene omhandler, 1790-1830, var Schwach i sentrum av sentrale politiske og kulturelle begivenheter. Hans vilje og evne til å fortelle «alt», og hans enorme kontaktflate gjorde at kom til å representere et unikt historisk dokument. Erindringene er en av svært få kjente førstehånds-skildringer av livet i Norge før, under og etter 1814, og gjennom sitt private og offentlige virke møter – og skildrer – Schwach mennesker fra alle samfunnslag. Manuskriptet var ukjent inntil det i 1963 dukket opp i et antikvariat, og befinner seg nå i Aust-Agder museum og arkiv i Arendal. Manuskriptet inneholdt i tillegg 50 sider bilag stukket inn på ulike steder. Bilagene bestod av dikt, partiturer, vitnemål, korrespondanse osv. Schwachs erindringer utkom som bok første gang i 1992 i en forkortet utgave. Manuskriptet utgjør i dag et eget arkiv og oppbevares på Aust-Agder museum og arkiv i Arendal. I 2016 ble Schwachs selvbiografi det tatt inn i Norges dokumentarv.