在桐城县立中学、安徽省立芜湖甲种农业学校学习，因参加学生游行而被学校除名。后来，他来到北京当教员，并担任《正言报》记者。后入国民军当上士文书。不久，1924年被冯玉祥派往苏联留学。1925年，他学习了共产主义理论后从苏联回国。1925年（民国14年），冯玉祥被任命为西北边防督办，何其巩出任其秘书。不久升任秘书长，曾率西北军代表团到苏联考察政治。归国后任绥远都统公署秘书长。1926年（民国15年），冯玉祥被批为「赤化」而下野赴苏联之际，何其巩作为其机要秘书随同赴苏联。同年，冯玉祥归国，举行五原誓师，何其巩