为慢性病（可能是高血压）所苦，想让强势的武皇后（即后来的武则天）摄政，宰相郝处俊坚决反对，李义琰也说：“郝处俊之言至忠，陛下宜听之。”最终高宗放弃了这一想法。李义琰身长八尺，博学多识，高宗每有顾问，言皆切直。上元三年（676年）四月，李义琰被授同中书门下三品，为实质宰相。仪凤二年（677年）三月，他又兼太子右庶子，辅佐太子李贤。仪凤年间，官号复旧，又敕李义琰与左仆射刘仁轨、右仆射戴至德、侍中张文瓘、中书令李敬玄、右庶子郝处俊、黄门侍郎来恒、左庶子高智周、吏部侍郎裴行俭、马载、兵部侍郎萧德昭、裴炎、工部侍