Høydepunktene i hans tid i klubben var å vinne den franske ligacupen i 2003, og nådde samtidig finalen av Mesterligaen i 2004. Klubben tapte imidlertid 3-0 for Porto i finalen, men dette er til nå Givets største prestasjon på fotballbanen. Han hadde en sentral rolle i laget, under klubbens suksess. I 2003/04 sesongen storspilte han i forsvaret, og utgjorde et godt samarbeid med Patrice Evra.