一贯怒将其调为淮扬巡按。在淮扬巡按间，发觉漕运总督李三才贪财，加以揭露，得罪东林党人。万历三十八年（1610年）调浙江道御史。次年，东林党争，东林党人在京察想要斗争应甲，应甲获得吏部萧宣化救援，脱身。后丁忧两次，家居十余年，万历四十三年（1615年）朝廷召以太常寺少卿，应甲不就。家居期间，出家财协助地方农耕治水。天启四年（1624）起官，任南京都察院副都御史协理院事，弹劾许多东林党人，次年以御史大夫巡抚陕西，杖杀贪赃枉法的国舅曹应祥，并招安许多因饥荒造反的流寇，深受爱戴，李闯经过其乡，称之为「清白吏