日壬午（576年12月13日）葬于旧城，其墓志全名《齐故司空文孝李公之铭》。武平年间，将要封胡皇后的哥哥胡君璧等人为王，又归还恢复了李祖勋的王爵。
其他.齐文宣帝将要为皇太子高殷娶尚书郎郑雏的女儿为良娣，李祖昇兄弟有些敬畏郑雏。杨愔上奏授予郑雏为赵郡太守，李祖昇兄弟身穿朝服到郑雏家门，投递名帖拜见。齐文宣帝听说后高兴，笑着说：“足以杀杀李家小子的威风了。”