二十九军返回山西，后将察哈尔省的抗日同盟军缴械，全军移驻察哈尔省，张自忠仍任第二十九军第三十八师师长，驻宣化。1934年张自忠率第二十九军营长以上军官至庐山参加庐山军官训练团，张自忠以第一名结训。1935年6月，由于何梅协定，国民政府中央军退出河北省，于是日军默许下，第二十九军进驻平津。12月成立冀察政务委员会，由宋哲元任委员长，张自忠任委员，兼察哈尔省省主席与第三十八师师长。1936年6月改任天津市长，第38师亦移防天津。1937年3月，日军突邀宋哲元访日。依日军驻北平市特务机关部辅佐官寺