915年参加护国战争。1921年，他加入粤军，任香山护沙营营长。1923年，其任广东揭阳县县长。次年进入许崇智部任旅长。1925年，参加两次讨伐陈炯明的东征；1926年，参加北伐战争，任国民革命军第四军第25师参谋长、第二方面军参谋长，参与指挥汀泗桥、贺胜桥、武昌、河南等战役战斗。1926年10月，经王之仁的介绍，身为国民革命军少将参谋长的张云逸在武汉参加中国共产党。
第一次国共内战期间.1927年，国共合作破裂。同年7月，张云逸与周士第等秘密组织、掩护第25师的大部分人员参加南昌