央代表身份参加长征，军团长为董振堂，政治委员为李卓然，参谋长为刘伯承；期间参加过湘江战役。同年12月，军委第一、第二纵队合并后军委纵队，陈云担任纵队政治委员，与刘伯承、叶剑英搭档。1935年1月，军委纵队攻占贵州遵义，陈云任警备司令部政治委员；期间出席遵义会议；会议后兼任中共中央组织部部长，此后组织部队参与四渡赤水。5月上旬，红军渡金沙江时，陈云任渡河司令部政治委员，负责在南岸指挥部队上船；促使三万红军在十天内渡过金沙江，使得中央红军摆脱了国军十余万部队的追截。6月中旬，他奉命从四川省天全县灵关殿秘密离开，