铭将第三十九旅扩编为湖南陆军第一师，师长车震，张自忠被委任为军官，任师部幕僚。但该师旋即被湖南护国军第一师击败，所部瓦解。张自忠遂改投冯玉祥第十六混成旅，历任排长、连长、营长等职。
中年经历.1924年，张自忠任团长，参与第二次直奉战争。1926年，任第十五混成旅旅长，入山西与晋绥军作战。因战事不利，恐为其直属长官、第六师师长石友三所害，遂率部入晋（但并未加入晋军）。直到1927年4月，冯玉祥加入国民革命军北伐序列，改编西北军为国民革命军第二集团军后，张自忠方从山西回归冯玉