Syn rosyjskich emigrantów, którzy uciekli z Odessy przed prześladowaniami na tle antysemickim. Ojciec, Samuel Jankélévitch, był lekarzem, filozofem i tłumaczem filozofii niemieckiej na język francuski (Schelling, Freud, Hegel), co miało wpływ na późniejsze zainteresowania i poglądy Vladimira. Vladimir studiował w École normale supérieure w Paryżu, gdzie między innymi poznał Henri Bergsona, które uznawał później za swego mistrza. Bergson przed śmiercią nieformalnie nazwał go, obok Jean Gittona, swym spadkobiercą. W latach 1926–1932 wykładał filozofię i muzykologię w Instytucie Francuskim w Pradze. Tematem jego pracy doktorskiej była filozofia Schellinga. Na myśl moralną i metafizyczną Jankélévicha mieli też wpływ myśliciele tacy, jak Plotyn, Georg Simmel, Lew Szestow, Baltasar Gracián, Franciszek Salezy i św. Jan od Krzyża. W latach 30. kontynuował karierę naukową na uniwersytetach w Lille, Besançon oraz Tuluzie. W 1940 na mocy ustaw antysemickich rządu Vichy został wyrzucony z uniwersytetu. Działał w ruchu oporu. Po wojnie został profesorem filozofii moralnej na paryskiej Sorbonie. Podczas rewolty studentów w 1968 stanął po ich stronie.