Koulibaly Franciaországban nevelkedett szenegáli szülők gyermekeként, és kettős állampolgárságot kapott. 2011-ben debütált a francia U20-as válogatottban, de 2015 szeptemberében a szenegáli labdarúgó-válogatott játékosa lett, annak ellenére, hogy a francia labdarúgó-válogatott és Didier Deschamps iránt érdeklődik. A szenegáli válogatottban szeptember 5-én debütált egy namíbiai labdarúgó-válogatott elleni 2–0-ra megnyert mérkőzésen. Tagja volt annak a válogatottnak, amely részt vett a 2017-es afrikai nemzetek kupáján.