Ved starten av 1928 steg Simon raskt i partiets hierarki. I 1928 ble han NSDAPs distriksleder (Bezirksleiter) for Trier-Birkenfeld, og i 1929 ble han også distriktsleder for Koblenz-Trier, samt et medlem av Rhinlands provinsielle Landtag. I 1930 ble han medlem av Riksdagen for valgdistriktet Koblenz-Trier. Den 1. juni 1931 utnevnte Adolf Hitler ham til Gauleiter av det nyopprettede Gauet Koblenz-Trier. I motsetning til nesten alle de andre Gauleiterne var ikke Simon medlem av hverken SA eller SS, men av Det nasjonalsosialistiske motorkorps (Nationalsozialistisches Kraftfahrerkorps eller NSKK).