Sarr se narodil v Nice a ve věku šesti let se připojil k místnímu týmu OGC Nice. Dalších 12 let strávil v akademii klubu, předtím, než debutoval v Ligue 1 dne 14. srpna 2016 proti Rennes, ve věku 17 let. V 60. minutě vstřelil vítězný gól svého týmu hlavičkou po centru Jeana-Michaëla Seriho z přímého kopu. Tím se stal druhým nejmladším hráčem, který skóroval při svém debutu v Ligue 1, za Nigerijcem Bartholomewem Ogbechem. Po zápase zasvětil Sarr svůj cíl obětem teroristického útoku v Nice 2016. Před začátkem utkání bylo na památku obětí minutové ticho; hráči Nice i Rennes měli na sobě unikátní pamětní dresy se jmény těch, kteří zemřeli. 7. listopadu 2016 podepsal Sarr svou první profesionální smlouvu s Nice a do konce sezóny odehrál více než 30 zápasů, čímž klubu pomohl ke konečnému třetímu místu v lize.