アルザス地方のマルムーティエのユダヤ人の商人の家に生まれた。1848年の革命時におきた反ユダヤ人暴動によって家族はストラスブールに移った。高校で学ぶうちに美術への情熱から1860年にパリに出て、ジャン＝レオン・ジェロームの教室で学び、その後、カロリュス＝デュランと知り合った。レヴィは、風刺画も描いたオノレ・ドーミエやユダヤ人を多く描いたレンブラントの作品から学んだ。