宝琦内阁成立，他卸任代理国务总理，改任税务督办。同年10月，冯玉祥发动北京政变，曹锟被囚，高凌霨逃到天津，继又逃往上海。
中华民国临时政府.民国十五年（1926年），高凌霨由上海回到天津，寓居天津日租界桃山街，与张之洞之子张燕卿（后任满洲国外交大臣）过往密切，并参加了日本驻军直接控制的“中日同道会”。民国二十年（1931年），他在天津和段祺瑞、王揖唐组织中日密教研究会，并和日本秘密建立了政治联系。此后，他参加救济华北经济委员会、东亚经济协会等与日本合作的组织。民国二十四年（19