I 1934 tok Barbie ved i Trier. Etter dette ble han medlem av Hitlerjugend og adjutant for den lokale partilederen. I 1935 traff han Heinrich Himmler og ble kort etter medlem av SS og SD.