I början av 1930-talet lärde Mühlmann känna Arthur Seyss-Inquart, en österrikisk jurist, som var engagerad i politiska organisationer som stod Nationalsocialistiska tyska arbetarepartiet (NSDAP) nära. Vänskapen med Seyss-Inquart lade grunden för ett framtida samarbete i Wien, Kraków och Nederländerna. År 1935 greps Mühlmann och fem andra personer i Salzburg för att med en hemlig SD-grupp ha försökt infiltrera den österrikiska staten. De anklagades för högförräderi, men Mühlmanns advokat lyckades få honom frikänd. Det är oklart när Mühlmann blev medlem i NSDAP, men enligt en edlig förklaring som lästes upp inför Internationella militärtribunalen i Nürnberg inträdde han i partiet den 1 april 1938, tre veckor efter "Anschluss", Tysklands annektering av Österrike.