Rust ble medlem av NSDAP i 1922. Han arbeidet som skolelærer, men han mistet jobben i 1930. Han ble valgt til det tyske parlament senere samme år. I 1934 ble han undervisningsminister i Hitlers regjering. Han drev en hard utrensningspolitikk av de tyske universiteter, som tvang jøder, kommunister og andre ikke-nazister ut av sine stillinger.