，经他人引荐，马汉三在民国十三年（1924年）在北京南苑加入冯玉祥的第十一师军事教导团。民国十四年（1925年）初，冯玉祥调任西北边防督办，马汉三随军到张家口，被分至刘郁芬部担任文书。此后，他曾受到以中国国民党党员身份公开在西北军中工作的宣侠父（中国共产党党员）的革命思想影响，也参加过抗日救亡运动。民国二十一年（1932年），三民主义力行社在南京成立，戴笠担任特务处处长，任务是搜集日本方面和中国共产党方面的军政情报。宣侠父得知后，安排马汉三与西安的特务处负责人马志超（与宣侠父是黄埔军校一期的同学）结识，