Han meldte seg inn i KPD (kommunistpartiet) i 1927 og ble valgt til parlamentet i Sachsen i 1930. Etter Adolf Hitlers maktovertagelse i 1933 deltok Wehner i den kommunistiske motstandsbevegelsen. I 1935 reiste han til Moskva i eksil. Under tiden i Moskva 1935-1941 ble han medlem av partiets sentralkomité.