I 1940 okkuperte tyskerne Nederland, og Barbie ankom Amsterdam 29. mai, der han tjenestegjorde ved Sentralkontoret for jødisk utvandring (tysk: frem til mars 1942. I november 1940 ble han forfremmet til . I Nederland var Barbie særlig engasjert i forfølgelse og tortur av frimurere.