Grove vokste opp i Hamburg, studerte i Bonn og München, men avsluttet studiene for å bli forfatter. Han knyttet seg i en kort periode til Stefan George og nyimpresjonistene. Hans første bok var diktsamlingen (1902). Han oversatte engelsk og fransk til tysk, kom i gjeld og satt en kort tid i fengsel. Han forlot Tyskland i 1909 og begynte i 1913 sitt nye liv som lærer i Manitoba.