1927年11月，张友彝参加了中共北京市委的重建工作。当时，北平市委的负责人谭啸云和马骏；宣传部长胡鄂公（化名吴南湖），张友彝担任秘书。市委还有负责工农运动的殷学山、学生工作的许锡仁。不久，许锡仁去西郊燕京大学和清华大学联系工作，被侦缉队逮捕，供出了中共北京市委成员的姓名，以及马骏、谭啸云、国民晚报馆地址。马骏和谭啸云被捕（马俊之后被杀）；张友彝也在国民晚报馆被捕，报馆被查封。1928年3月，在山西同乡会、姑父赵子瑗（赵仲玉）多方走动后，他在财政部副部长董士恩出面作保下得以出狱。出狱后，他得知从哥伦比亚大学博士毕业回国的弟弟张象彝，受到蒋介石召见，并出任蒋介石的侍从室秘书（蒋介石正在南昌准备第五次圍剿戰爭）。张友彝愤而改名为张友渔，以示兄弟决裂。