Grove var utdannet som sivilingeniør, men hans forkjærlighet for musikk ledet ham inn i stillinger innenfor musikken. Da han var ansvarlig for de regelmessige orkesterkonsertene ved Krystallpalasset skrev han en serie med programnotater som senere dannet grunnlaget for hans musikkleksikon. Hans interesse for Franz Schuberts musikk, som på det tidspunktet var neglisjert i England, førte ham og hans venn Arthur Sullivan til å reise til Wien for å lete efter Schuberts uoppdagede manuskripter. Deres efterforskninger førte til oppdagelsen av de tapte notene til Schuberts i 1867.