Grimminger sluttet seg til nazistpartiet (NSDAP) i 1922 og ble medlem av Sturmabteilung (SA). Samme år deltok han i slåsskampene i Coburg og året etter i Ølkjellerkuppet i München. Etter å ha gjort tjeneste ved hovedkvarteret til NSDAP ble han i 1926 valgt til medlem av SS, og var en av de 200 første medlemmene av SS.