自幼过继给马德明为子。马德明是清朝的师范学堂首期毕业生，以教私塾为业。马汉三10岁起便随马德明学习。12岁报考段祺瑞在中堡村创办的农林学校，插班入读高小二年级。两年后高小毕业。经班主任朱子丹安排，马汉三等11位优秀学生在民国十二年（1923年）被保送到北京政府农商部办的中央农事试验场半工半读。不久，经他人引荐，马汉三在民国十三年（1924年）在北京南苑加入冯玉祥的第十一师军事教导团。民国十四年（1925年）初，冯玉祥调任西北边防督办，马汉三随军到张家口，被分至刘郁芬部担任文书。此后，他曾受到以中国国民党