祖上世代为白兽蛮渠帅，他在南梁大同年间担任持节、厉锋将军、青州刺史，转官上庸新城二郡守、南洛北司二州刺史，封宕渠县男。及后侯景作乱，扶勐聚众自守，不从属任何人。西魏大统十七年（551年），大将军王雄平定魏兴，扶勐和部下据险建立碉堡，只遣使偷偷转达馈赠。魏废帝元年（552年），魏兴郡发生叛乱，王雄逐一击破，扶勐于是投降。宇文泰考虑他世代据守该处，决定加以招纳，授官车骑大将军、仪同三司，加散骑常侍，复爵宕渠县男。割二郡为罗州，任命他为刺史；宇文泰又下令他率令部下千多人跟随开府贺若敦讨伐信州，贺若敦就吩咐他由岔路