每有顾问，言皆切直。上元三年（676年）四月，李义琰被授同中书门下三品，为实质宰相。仪凤二年（677年）三月，他又兼太子右庶子，辅佐太子李贤。仪凤年间，官号复旧，又敕李义琰与左仆射刘仁轨、右仆射戴至德、侍中张文瓘、中书令李敬玄、右庶子郝处俊、黄门侍郎来恒、左庶子高智周、吏部侍郎裴行俭、马载、兵部侍郎萧德昭、裴炎、工部侍郎李义琛、刑部侍郎张楚、金部郎中卢律师等，删缉格式，于仪凤二年二月九日撰定奏上，即《永徽留本司格后》。永隆元年（680年）八月，李贤得罪武后，被控谋反并被废黜，他的同党宰相张大安也被贬官，