Under Operasjon Barbarossa ble Haussmann en del av Einsatzkommando 12 i Einsatzgruppe D. Her deltok han i massemord på jøder i det sørlige Ukraina og på Krim.