尔朱荣到洛阳，获授威烈将军、都督，并加龙骧将军、中散大夫、直寝，封爵房城县男，食邑三百户。后来他陪同宇文泰平定侯莫陈悦而除授天水郡守。到魏孝武帝西迁时，常善就被转授武卫将军、进封武始县伯，增食邑到二百户。西魏大统初年再加封平东将军，进爵武始县侯。他在生擒窦泰、恢复弘农及沙苑都立下功劳，于是西魏朝廷除授他使持节、卫将军、假骠骑大将军、秦州刺史。大统四年（538年），常善参与河桥之战，加封大都督并进爵武始县公，任泾州刺史。茹茹入侵北边，他善部下攻破，并获得茹茹掠得物资，因此受拜车骑大将军、仪同三司，后迁任骠骑大