Sabine Rumpf begann schon früh mit dem Diskuswurf und startet für die LSG Goldener Grund, der sie seit Geburt angehört. Sie wird seit 1998 von ihrem Schwager Martin Rumpf gemeinsam mit Julia Bremser in Selters trainiert. Als Jugendliche und Juniorin erzielte Rumpf beachtliche Erfolge, sie war im Jahr 2002 Deutsche Jugendmeisterin und Vierte bei den Juniorenweltmeisterschaften, 2003 wurde sie Siebte bei den Junioreneuropameisterschaften. 2005 erreichte sie als Deutsche Juniorenmeisterin des Jahres den sechsten Rang bei den Deutschen Meisterschaften der Frauen. Der größte Erfolg 2005 war der Sieg bei den Leichtathletik-U23-Europameisterschaften in Erfurt mit 60,75 m vor der Russin Darja Pischtschalnikowa. Im Folgejahr gewann Rumpf bei den Deutschen Hochschulmeisterschaften, sie blieb aber bei einer Bestweite von 57,72 m, auch 2007 standen nur 55,76 m für sie zu Buche.