El seu pare, John Gerard Klumpke (1825-1917), va ser un immigrant alemany que havia arribat a Califòrnia el 1850 amb la Gold Rush i després es va convertir en un corredor immobiliari d'èxit a San Francisco. Es va casar amb Dorothea Mathilda Tolle el 1855 i van crear una família de cinc filles i dos fills. El 1877 es va traslladar a París, França, mentre que a les seves quatre germanes les van inscriure a escoles d'Alemanya i Suïssa. Totes les germanes van fer carreres importants: Anna Elizabeth Klumpke, pintora i companya de la gran pintora d'animals Rosa Bonheur; Julia Klumpke, violinista i compositora; Mathilda, pianista i alumna d'Anton-François Marmontel, i Augusta, neuròloga, que amb el seu marit i metge, Joseph Jules Dejerine, van establir una clínica i van escriure nombrosos treballs.