Etter å ha gått på Lycée Louis-le-Grand i Paris, kom Lévy inn på eliteskolen og meget selektive École normale supérieure i 1968, hvor han tok doktorgraden i filosofi i 1973. En del av hans professorer var blant annet de framstående franske intellektuelle og filosofene Jacques Derrida og Louis Althusser. Lévy begynte sin skrivende karriere som krigsjournalist for , avisen som ble grunnlagt under jorden av Albert Camus under Tysklands okkupasjon av Frankrike. I 1971 reiste Lévy til India og var i Bangladesh for å dekke den bangladeshiske frigjøringskrigen mot Pakistan. Denne erfaringen var bakgrunnen for hans første bok, , som ble utgitt i 1972.