I 1935 ble han av Reichsführer-SS Heinrich Himmler utnevnt til leder for og . Reichsarzt-SS var den høyeste faglige myndighet i alle medisinske og medisinske saker innenfor SS. Reichsarzt-SS var medisinsk ansvarlig for massedrapene gjennom eutanasiprogrammet og de medisinske programmene på innsatte i konsentrasjonsleirene. Grawitz hadde graden SS-Obergruppenführer, og hans direkte underordnede var Karl Genzken og senere Karl Gebhardt.