Sein erstes Spiel für die U-21-Nationalmannschaft bestritt er am 19. August 2008 bei einem Freundschaftsspiel gegen die Slowakei. Beim Turnier von Toulon 2009 führte er zweimal seine Mannschaft als Kapitän aufs Feld und vertrat dabei Étienne Capoue. Am 8. September 2009 erzielte er beim U-21-Fußball-Europameisterschaft-2011-Qualifikationsspiel gegen die Ukraine sein erstes und einziges Tor für die U-21. Das Spiel endete 2:2-Unentschieden. Nachdem der damalige Kapitän Moussa Sissoko in die A-Nationalmannschaft berufen wurde, wurde Sakho Kapitän. Dies sollte er auch während der U-21-Fußball-Europameisterschaft 2011 bleiben.