Etter Tysklands gjenforening ble han i 1990 sjef for Bundesbeauftragter für die Stasi-Unterlagen, som forvalter Stasis arkiver, en stilling han fratrådte i 2000. Gauck er fra 2003 leder av organisasjonen Gegen Vergessen – Für Demokratie.