Seine militärische Laufbahn begann er in der Militärschule Saint-Cyr. Mangin diente im französischen Sudan (unter Jean-Baptiste Marchand) an der Spitze der Senegalesischen Schützen (frz. "Tirailleurs Sénégalais") bei der Kongo-Nil-Mission (1898–1900), die zur Faschoda-Krise führte. Im weiteren Französisch-Westafrika nimmt er 1912 unter dem Befehl von Hubert Lyautey im Rang eines Colonel an der Eroberung von Marokko teil. Er zeichnet sich bei der Einnahme Marrakeschs aus und war einer der Hauptbeteiligten der Marokkokrisen (1907–1914), bevor er am Weltkrieg teilnahm. Aufgrund seiner Erfahrungen in Afrika trat er für die Aufstellung schwarzafrikanischer Truppenteile der französischen Armee "(armée noire)" ein.