Rivière startet sin karrière i den lokale klubben Espoir Saint-Luce på Martinique, men ble tidlig lagt merke til av klubber på fastlandet. Både Paris Saint-Germain og Olympique lyonnais, men han signerte etterhvert for Saint-Étienne. Her debuterte han på reservelaget i en alder av 16 år.