M'Vila begynte sin fotballkarriere spilt for klubber i regionene Picardie og Île-de-France, som Amiens SC og FC Mantes. I 2004 signerte han under en kontrakt med Stade Rennais FC. Mens han var i klubbens ungdomsakademi, oppnådde han flere av klubbens æresbevisninger. I 2008 ble M'Vila profesjonell, og i den neste sesongen, fikk han sin profesjonelle debut i en seriekamp mot OGC Nice. M'Vila ble siden en integrert del av klubben under manager Frédéric Antonetti.