Gouvy concentreerde zich vervolgens op koormuziek. Het "Requiem" uit 1874, een van zijn voornaamste werken, werd gevolgd door een "Stabat Mater" (1875), een "Missa brevis" (1882) en verschillende wereldlijke cantates, die in vele Duitse steden ten gehore werden gebracht. In Parijs kwam hij alleen nog voor de Wereldtentoonstelling van 1889.