火车车厢中都是从前线溃败的军队后，深感同中国工农红军作战不是对手，当即称病辞职，赴北平闲居。张岚峰在北平内务部街39号购置了一幢房产，将张志兰接到北平。不久，赴山西汾阳找冯玉祥，重获冯玉祥信任。1931年九一八事变爆发后，冯玉祥派张岚峰联络西北军旧部孙连仲（时任第二十六路军总指挥）、吉鸿昌（时任第二十二路军总指挥）、梁冠英（时任第二十五路军总指挥）、李鸣钟（时任豫鄂皖边区绥靖督办）等人，共商抗日反蒋。张岚峰认为除吉鸿昌拥护冯玉祥的抗日主张外，其他人均为观望派，故张岚峰分别找这些人叙旧，未提抗日反蒋之事。