元璋为太平兴国翼大元帅时，任命李善长为帅府都事。不久随军攻克集庆路。在将要进攻镇江时，朱元璋担心诸将约束不了部下，便佯装发怒，要惩罚他们，经李善长力救，此事才得以解决。镇江攻下之后，百姓都不知道有军队到来。朱元璋为江南行中书省平章，以李善长为参议。当时宋思颜、李梦庚、郭景祥等都为幕僚，但军机进退和赏罚章程多由李善长决定。朱元璋改枢密院为大都督府，命李善长兼领府司马，晋升为行省参知政事。至正二十四年（1364年），朱元璋自立为吴王，以李善长为右相国。李善长曾请求专卖两淮之盐，设立茶法，都是在再三斟酌元朝制