为保证中共中央在上海秘密工作的安全,为联系和指导各地区共产党领导的武装斗争,为发展在国民党统治区的秘密工作,起到了重要作用。在这一阶段的大部分时间内,他实际上是中共中央的主要主持者。
1931年12月,离开上海到中央革命根据地,先后任中央苏区中央局书记、中国工农红军总政治委员兼第一方面军总政治委员、中央革命军事委员会副主席。1933年春和朱德一起领导和指挥红军战胜了国民党军队对中央革命根据地的第四次“围剿”。1934年10月参加长征。1935年1月在贵州遵义举行的中共中央政治局扩大会议上,支持毛泽东的正确主张,对实际确立以毛泽东为代表的新的中央的正确领导,起了关键性的作用,并继续被选为中央主要军事领导人之一。1936年12月张学良和杨虎成发动武力拘禁蒋介石的“西安事变”后,任中共全权代表与秦邦宪、叶剑英等去西安同蒋介石谈判,和张、杨一起迫使蒋介石接受“停止内战、一致抗日”的主张,促使团结抗日局面的形成。
抗日战争时期,他代表中共长期在重庆及国民党控制的其他地区做统一战线工作,努力团结各方面主张抗日救国的力量,并先后领导中共中央长江局、南方局的工作。他坚持国共合作,积极团结民主党派、进步知识分子、爱国人士和国际友好人士,制止反共逆流,克服对日投降的危险。在1945年的中共七届一中全会上当选为中央政治局委员、中央书记处书记,和毛泽东、朱德、刘少奇、任弼时组成了以毛泽东为首的中共中央书记处。抗日战争胜利后,为制止内战率中共代表团同国民党谈判,并领导了国民党统治区内党的工作、军事工作和统一战线工作。1946年后,任中共中央军委副主席兼代总参谋长,协助毛泽东组织和指挥解放战争,同时指导国民党统治区的革命运动。