1906年5月31日，罗瑞卿出生于四川南充舞凤乡清泉坝马家坡，此后在村中读私塾。1920年，考入南充北区大林寺高等小学。1923年，受其外祖父资助考入南充县立中学。1926年7月离家出走，到考入成都高等蚕桑学校，但因凑不足学费未能入学。1926年10月在重庆结识了共青团四川省委工作的任伯芳，与任伯芳一起考入国共合作创办的武汉中央军事政治学校（即黄埔军校武汉分校），12月乘船东下武汉。1927年2月1日编在入伍生总队（黄埔军校第六期）政治第一大队第二队，与陈伯钧同学。1927年四一二事件，国共合作破裂。1927年5月中旬至6月下旬，黄埔军校武汉分校被编入叶挺指挥的中央独立师第一团，参加讨伐夏斗寅和西征杨森的战斗。后因作战表现出色，团长蓝腾蛟调到团部当传令兵。1927年7月中下旬，黄埔武汉分校被改编为第二方面军军官教导团（团长叶剑英）东征讨蒋，罗瑞卿编入共产党员叶镛为连长的第二连任副班长。1927年8月2日教导团由武昌沿江东下，准备参加南昌起义，船到黄石，传来了南昌起义的消息，张发奎担心教导团也发生叛乱，8月4日在九江把教导团缴枪，愿走愿留自便。当天晚上中共在教导团的负责人陈毅召集共产党员开会决定已暴露的党员分散，或去南昌找起义军，或回乡从事农民运动。罗瑞卿领了十几块钱路费回到了武汉，8月中旬至9月下旬伤寒病入仁济医院住院一个多月。出院后住在汉口四川会馆。由于武汉的白色恐怖越来越厉害，1928年1月罗瑞卿离开武汉到湖南常德。1928年2月去澧州，经任伯芳介绍在鲁涤平所属第二军教导师政治部宣传科任上尉宣传员。1928年6月离开鲁部队到长沙。1928年8月罗瑞卿和任伯芳一起到上海。1928年10月，“经和党中央接上关系的任伯芳介绍，同中央军委的工作人员欧阳钦接上了头，在上海转为中国共产党党员。”。