Pogromul din Noaptea de cristal i-a determinat să părăsească Berlinul, iar cei doi s-au refugiat la Amsterdam în decembrie 1938. Au trăit acolo în liniște timp de doi ani, dar invazia germană și, ulterior, legile antievreiești care nu permiteau coabitarea evreilor cu neevreii i-a forțat să se înregistreze la adrese separate. După ce a deschis un cabinet stomatologic în cartierul Rivierenbuurt din Amsterdam, el a devenit o cunoștință a familiilor Frank și Van Pels. Miep Gies l-a întâlnit pe Pfeffer la una din petrecerile organizate în casa familiei Frank și a devenit pacientă a cabinetului său stomatologic.