发动大清洗，奥尔洛夫的不少上司和同事都遭到逮捕。其上司阿布拉姆·斯卢茨基声称得到消息，说德军计划刺杀奥尔洛夫，准备为奥尔洛夫装备一个卫队；但奥尔洛夫知道其目的是为了监视自己，因此婉拒了这个建议。1938年，叶若夫向奥尔洛夫发出电报，要求他前往比利时安特卫普的一艘船上与苏联特工接头。奥尔洛夫意识到自己将会被逮捕回国，而回国后可能遭到逮捕处决，因此拒绝回国并且携妻女流亡美国。在美国，他过起了隐居生活，并且用俄语写下《斯大林肃反秘史》（"The Secret History of Stalin's Crime