Rémi Garde vokste opp i nærheten av Lyon og ble tidlig i tenårene inkludert i ungdomsavdelingen til byens storklubb, Olympique Lyonnais. Han fikk sin første erfaring med seniorfotball i 1984/85-sesongen. Men da klubben ansatte Robert Nouzaret som ny trener i 1985 ble Garde begrenset til spill for B-laget inntil Nouzaret fikk sparken i 1987. Med ansettelsen av Raymond Domenech i 1988, fikk Garde sitt gjennombrudd. Som en av flere unge spillere Domenech satset på, spilte Garde seg til fast plass som defensiv midtbanespiller og ble gitt kapteinsbindet i en 1988/89-sesong som endte med opprykk til 1. divisjon.