去豫章，李璟死后，他有篡位之念，向太子太保徐游索要遗诏，被徐游拒绝并告诉太子李从嘉，即后主李煜。李煜因友爱兄弟没有计较。又封郑王，累迁太尉、中书令。开宝四年（971年），前去朝贡宋太祖赵匡胤，宋太祖留下他不让他南归，还特意带着他来到挂画的殿中，见到林仁肇画像。宋太祖说：“仁肇愿归顺我朝，先寄画像为信物。”李从善写信把这件事告诉李煜，李煜疑林仁肇有二心，用毒酒杀之。南唐亡，北宋封他为南楚国公。