令李玄德之子。先祖从陇西迁徙道崤山以东。李义琰少年时即中进士，补太原尉，在名将并州都督李勣帐下效力。由于李勣功勋卓着，他的其他部将害怕他，不敢和他争论，但李义琰不怕，当廷与李勣争辩，并得到了李勣的尊敬。
唐高宗年间.李义琰曾出使高丽，高丽王据榻召见，李义琰不拜，说：“我是天子使者，可以当小国之君，奈何傲慢地见我？”高丽王词穷，为之加礼。后来李义琰的从祖弟监察御史李义琛出使，高丽王也坐着召之，李义琛匍匐拜伏。时人由是看出他们兄弟的优劣。唐高宗麟德年间（664年 - 665年），李