1927年1月追随北伐军参加北伐战争，1927年3月参加上海工人第三次武装起义。4月，在武汉中共中央军委任技术秘书的徐以新，由陈赓等人介绍加入中国共产主义青年团。其后参与南昌暴动，后送入苏联莫斯科中山大学，为“二十八个半布尔什维克”的“半个”，早年支持王明。1930年，由中国共产主义青年团转入中国共产党。此后回国奔赴鄂豫皖苏区担任红四方面军总部参谋，随军长征。后担任延安鲁迅艺术学院政治部主任。1942年5月起，任中共中央整风学习委员会秘书主任。1943年至1945年，任中共中央直属机关党委书记兼中央管