冯玉祥部，与董振堂、边章五、何基沣等一起入冯部，张克侠在宋哲元的第25混成旅任见习军官。1924年1月抵达广州参加国民革命，先后在孙中山大本营军政部任少校科员兼大本营陆军讲武学校（黄埔军校前身之一）教育副官及队长。其间接触了许多中国共产党党员，受到共产主义思想启蒙，并致信冯玉祥宣传革命道理。1925年，国民革命军组建，以陆军讲武学校毕业学员为骨干编成两个营，张克侠任第一营营长。1926年9月，冯玉祥的西北军五原誓师响应北伐，张克侠到张家口任西北军学兵团团副。身在苏联的李德全带回一封信，希望妹夫张克侠去苏