Bare et år etter grunnleggelsen i 1997 spilte Sheriff sin første sesong i Moldovsk nasjonaldivisjon, den øverste divisjonen i Moldova. De spilte seg til en fjerdeplass, og siden den gang har det bare gått veien. I den påfølgende sesongen tok de sølv bak FC Zimbru Chișinău, bare ett fattig poeng fra gull. En sesong senere, i 2000/01, tok de imidlertid hevn og slo Zimbru Chișinău med ett poeng. Dermed kunne de innkassere sitt første seriegull, og siden den gang har de vunnet serien hele ti ganger på rad, siste gang i 2009/10. Klubben har vunnet cupen sju ganger, første gang i 1999.