Gueye debytoi Senegalin jalkapallomaajoukkueessa marraskuussa 2011 ystävyysottelussa Guineaa vastaan. Hän kuului joukkueeseen vuoden 2012 kesäolympialaisissa Lontoossa, jossa hän pelasi yhdessä ottelussa. MM-kilpailuissa 2018 hän pelasi täyden ajan Senegalin kaikissa kolmessa ottelussa. Hän pelasi vuosien 2015, 2017 ja 2019 Afrikan-mestaruuskilpailuissa, joista viimeksi mainittuna vuonna Senegal saavutti hopeaa.