临时中央政府警卫连抽调部分人员到红八军团，张耀祠被分配到红八军团保卫局侦查科任科员。1934年5月，红八军团由瑞金出发，经江西省于都县，来到兴国县崇贤前线，同蒋介石的军队进行了数月激战。1934年10月上旬，红八军团撤离前线，向于都县开进。农历九月九日重阳节这天下午，红八军团等部渡过于都河。自此，中央红军开始二万五千里长征。红八军团在突破第四道封锁线湘江的湘江战役中损失惨重，几乎打光。中央红军打到贵州省，占领了黎平县之后，进行了整编，红八军团残部被分散到其他军团，红八军团保卫局的人员一部分调到国家保卫局