Imidlertid var Grawitz samtidig svært politisk aktiv, noe som førte til at han faglig ikke nådde habilitasjon. Helt siden skoledagene hadde han vært med i høyreekstreme organisasjoner. I november 1919 ble han med i var i 1920 involvert i Kappkuppet. Deretter var Grawitz med i frikorpset og uttalte senere at han hadde vært en tilhenger av Adolf Hitler helt siden 1920. I november 1931 gikk Grawitz inn i SS og ble i 1932 medlem av NSDAP. I 1935 ble han av Reichsführer-SS Heinrich Himmler utnevnt til leder for og . Som Reichsarzt-SS sorterte Grawitz direkte under Himmler var den høyeste faglige myndighet i alle medisinske og medisinske saker innenfor SS. Han var også ansvarlig for leger og medisinske forhold i konsentrasjonsleirene. Hans direkte underordnede i SS var Karl Genzken og senere Karl Gebhardt.