2年，壬辰倭乱爆发，祖承训以辽阳副总兵的身份，率军3000名骑兵进入朝鲜支援，这是明朝向朝鲜派出的第一支援军。在第一次平壤之战中，他率军奇袭被日军占据的平壤，成功攻入了平壤城中。然而在城中受到日军火绳枪的袭击，战败后，又遭到小西行长、宗义智、大友义统、立花宗茂、黑田长政等人的追击，全军覆没，祖承训等人只身逃回辽阳。此后，他跟随明朝的主力部队再次支援朝鲜。在1593年的第二次晋州城之战中，他与李宁、葛逢夏一起，率领明军驻扎于居昌。在1597年的丁酉再乱中，他追随董一元参加泗川之战，被日军击败。