Lemerre har siden han i 1975 la opp som fotballspiller vært trener for en rekke klubber, samt for flere ulike landslag. Av klubber er de mest nevneverdige RC Lens og RC Strasbourg. Han var i 1998 assistenttrener for Aimé Jacquet, da Frankrike vant VM på hjemmebane. Etter at Jacquet trakk seg tilbake etter triumfen ble Lemerre hovedtrener, noe han var i fire år.