延误战机过失罪革职，以白衣从军。不久，受全罗道观察使李洸举荐，备边司任命李为全罗道助防将。1589年，金海都护府使李庆禄向时任左议政李山海推荐李舜臣，后者调任井邑县监。1591年升任珍岛郡守，未赴任就升任加里浦佥节制使。丰臣秀吉入侵朝鲜前夕，时任右议政柳成龙举荐李舜臣任全罗左道水军节度使、加封折冲将军。他改制的龟甲船能攻能防，在近海抵御日本海军的海战中发挥了重要作用。1592年，时任日本关白的丰臣秀吉征伐朝鲜，李舜臣带领朝鲜龟船舰队在玉浦、唐项浦、泗川、闲山岛、釜山等地抵抗日军。后因谗言一度下狱。1597年