Cabaye startet fotballkarrieren sin som femåring da han spilte for hjemklubben sin, Tourcoing FC. 12 år gammel forlot han klubben for å utvikle seg videre i den profesjonelle klubben Lille. Etter å ha vært i Lilles akademi i seks år, debuterte han for A-laget i 2004-2005-sesongen og bidro til at Lille vant Intertoto-cupen samme sesong. Sesongen etter ble han fast på laget og var med da Lille deltok i UEFA Champions League for første gang i klubbens historie. I 2010-2011-sesongen var Cabaye med på laget som vant både ligaen og cupen.