他先参加民间秘密组织「庙道会」，成为会首；1922年（民国十一年），他拉着会众投入河南陆军第一混成团团长兼豫西镇守使丁香玲部，先当副官，后升任机枪连连长。到1924年（民国十三年）第二次直奉战争时，他趁前线打仗扩大队伍到数千人。直系孙殿英趁直军败北，在陕西省及河南省掠夺以维持军队。不久，加入刘镇华的镇嵩军憨玉琨部。1925年（民国十四年）3月，憨玉琨被国民军胡景翼部击败，孙殿英投降国民军，升任师长。不久，脱离国民军。东进沿途掠夺，最终成为奉系山东省张宗昌的部下，任褚玉璞手下的第五师师长。南口大战中，孙殿