变后居住北平。其间曾勐烈谴责伪满洲国依附日本，分裂中国。但吴也曾应其旧部属齐燮元的聘请，为齐的「特高顾问」，每月领「车马费」数千元。但到1937年齐担任日军傀儡政府「华北临时政府京津卫戍司令」时，便与之断绝关系。日本占领北京后日本驻华特务机关首脑土肥原贤二亲自出马，前来拜会吴佩孚，引诱吴出山，被吴拒絶。1939年12月，吴佩孚于北平因吃羊肉饺子引发牙痛，由一日籍牙医替其拔牙，4日细菌感染，引发败血症而身亡。但江湖盛传，吴因拒绝日本人的游说，故日本人以毒药谋杀。也有另说称该日籍牙医实为日军指派以害死吴