自赵郡李氏南祖，北魏、东魏与北齐官员。李义深学习经史，有做事的能力，但机心很多，当时的人说：「剑戟森森李义深。」他任官济州征东府功曹参军，加官龙骧将军。高欢在信都举兵，李义深在殷州别驾任内曾投靠，担任大行台郎中。中兴年间除授平南将军、鸿胪少卿，他见尔朱兆结集重兵，就背叛高欢归附尔朱兆。尔朱兆被平定，高欢宽恕他，任命为大丞相府记室参军。之后他迁官左光禄大夫、相府司马，十分称职；又改任并州长史，其时并州刺史可朱浑道元不理琐碎小事，都委派李义深负责，做得又快又好，复任为大丞相司马。东魏武定年间，他除授齐州刺史