Léger var av gårdbrukerslekt, født i Argentan, Orne, Normandie. Han var lærling hos en arkitekt fra 1897–99 før han dro til Paris i 1900 og jobbet som teknisk tegner. Ferdig med militærtjenesten søkte han opptak på École des Beaux-Arts, parallelt til at han hadde plass på dekorasjonsskole. Han fikk likevel gå som uregistrert student ved , noe han gjorde i, sa han senere, «tre tomme og unyttige år». Han var også innom Académie Julian.