靠郭子兴，参加红巾军。由于指挥有方，不久便成为郭子兴身旁一名亲兵并赐名元璋字国瑞，并娶郭子兴养女马氏（即后来的孝慈高皇后马氏）。后来朱元璋见郭子兴与其他濠州红巾军领袖如孙德崖、赵均用不和，屡有冲突，朱元璋不愿涉及濠州内斗，故主动要求返家乡招募新兵，徐达、汤和等朱元璋儿时好友获准随行，不久朱元璋的部队已有结集了数千人。次年，朱元璋部队攻下滁州，成为他首个据点，同时也在攻佔滁州期间，李善长加入朱元璋部队，成为他一个重要幕僚。此时，濠州的郭子兴被孙德崖及赵均用迫走，前来滁州投靠朱元璋，由于朱元璋名义上仍是郭子兴部