大牙家放牧；因一匹马走失，姜大牙硬说马占山把马偷卖，绑送毛家城子镇警察分局关起来，父亲马纯和杜赞义只好自种麦青全部卖掉，赔姜大牙马钱了事。几天后走失的马跑回来，姜大牙不肯将马钱退回。马占山决心报仇雪恨，瞒着父妻离家落草，被逼上黑虎山（即哈拉巴喇山），结识马贼草寇兄弟数十人。马占山在组织中逐渐累积功劳。张作霖身边的吴俊陞于1911年将他提拔为连长。
中年经历.1925年升任旅长，在九一八事件前夕时为东北边防军第3旅旅长兼黑河警备司令。1931年9月九一八事变爆发后，张学良任命