年家贫，以木匠为业，后投入秦宗权军中，属孙儒部下，随孙儒渡淮攻下广陵（今江苏扬州东北）。唐僖宗光启三年（887年），秦宗权派其弟秦宗衡为主将，孙儒为副将，将兵三万，南下渡过淮河，同杨行密争夺扬州。不久，孙儒杀秦宗衡，自立为帅，号“土团白条军”。唐昭宗大顺二年（891年），马殷受命率军击败杨行密部将田頵，随刘建锋镇守常州，后被调往宣州（今属安徽）参与围攻杨行密。景福元年（892年），孙儒兵败，战死军中，刘建锋和马殷率残军7000人逃走。其后，马殷作为刘建锋的先锋，一路攻占洪州、潭州等城。干宁三年（896年