纳粹首先在“总督辖区”(由德国民间政府管辖的波兰中部和东部领土)和瓦尔特高 (Warthegau)(被德国吞并的波兰西部地区)建立了隔都(用于隔离和控制犹太人的封闭区域)。波兰和西欧犹太人被驱逐到这些隔都,这里的居住状况十分糟糕,人员非常拥挤,卫生条件极其恶劣,同时他们还要忍受食物匮乏的煎熬。
1941 年6月德国侵略苏联后,党卫军 (SS) 和警察分队(流动屠杀分队)开始了旨在彻底消灭犹太人社群的大规模屠杀行动。从1941 年秋天开始,党卫军和警察开始使用移动毒气车。作为枪杀方式的补充,纳粹对这些镶板卡车进行了改造,他们在车上安装了排气管,将有毒的一氧化碳气体注入封闭的空间内,杀害那些被锁在车里的犹太人。
1941 年7月17 日,即入侵苏联四周后,希特勒下令苏联占领区内的安全事务由党卫军头目海因里希·希姆莱全权负责。希特勒赋予希姆莱极大的权利以消除任何对德国的永久统治造成威胁的人。两周之后,即1941 年7月31 日,纳粹高官 赫尔曼·戈林(Hermann Goering)授权党卫军将军 莱因哈特·海德里希(Reinhard Heydrich)为“最终解决犹太人问题”的实施做好准备。
1941 年秋,党卫军头目海因里希·希姆莱任命德国将军奥迪洛·格洛博奇尼克(Odilo Globocnik,卢布林地区党卫军和警察头目)实施有组织地屠杀总督辖区内的犹太人的计划。此计划的最终行动代号为“莱茵哈特计划”,该计划是以海德里希的名字命名的,1942 年5月,他被捷克游击队暗杀。作为“莱茵哈特计划”计划的一部分,纳粹在波兰境内修建了贝乌热茨 (Belzec)、索比堡 (Sobibor) 和特雷布林卡 (Treblinka) 三个屠杀中心,这些屠杀中心将屠杀作为唯一的目的。
马伊达内克 (Majdanek) 集中营则一次又一次地成为杀害总督辖区内犹太人的屠杀地点。该集中营内建有毒气室,党卫军借助这些毒气室屠杀了数以万计的犹太人,其中主要是过于虚弱而失去劳动能力的强制劳工。党卫军和警察共屠杀了 152,000 人,其中大多数是犹太人,还包括在海乌姆诺 (Chelmno) 屠杀中心(罗兹西北方向大约三十英里处)内使用毒气车杀害的几千名罗姆(吉卜赛)人。1942 年春,希姆莱将 奥斯威辛二号集中营(奥斯威辛-比克瑙)指定为屠杀场。在奥斯威辛-比克瑙集中营里,