1892年8月10日，出生于广东省文昌县头范区造福乡上僚村一个贫苦农民家庭。
　　1908年，考入广东陆军小学，开始受到军事熏陶。
　　1909年10月，与同班的几个爱国学生秘密参加孙中山领导的同盟会。
　　1911年4月，参加孙中山领导的黄花岗起义。10月，辛亥革命爆发，加入革命军行列，充当炸弹队队长，参加攻打两广总督府。
　　1912年，到广东陆军速成学校学习。两年后毕业，由同盟会南方支部派遣，到海南岛北洋军中做反对袁世凯的工作。在此期间，秘密发展反袁“三合会”成员80多人。
　　1921年，到粤军工作，任香山护沙营营长。
　　1923年，任广东揭阳县县长，为政清廉，受到廖仲恺的赞扬。
　　1924年，积极拥护孙中山改组国民党。后受派到广东许崇智部任旅长。
　　1925年，所在的部队改编为国民革命军，先后两次参加讨伐陈炯明的东征作战，屡立战功。
　　1926年7月，参加北伐战争，任国民革命军第25师参谋长、第二方面军参谋长。先后参加汀泗桥、贺胜桥、武昌、河南等战役战斗，为北伐战争的胜利作出了贡献。10月，在武汉参加中国共产党。
　　1927年7月，与周士第等秘密组织、掩护第25师的大部分人员参加南昌起义。11月，任国民革命军海南岛绥靖司令。遵照党的指示，执行“经营海南计划”，在登陆海口时情况突变，机智脱险，到上海找党组织。后根据党的指示，回广东参加广州起义。
　　1928年8月，中央决定他到广西做兵运工作。
　　1929年7月，任广西教导总队副总队长兼警备第4大队大队长。在此期间，采取措施，改造部队，使之发生了根本变化。10月17日，带领1000余人撤出南宁，掩护中共派往广西的代表邓小平及军械船只到达右江地区。10月20日，与邓小平会见。22日，到达百色后即研究起义问题。28日，率部歼灭了反动的警备第3大队1000余人。12月11日，中国工农红军第7军宣告成立，张云逸任军长，邓小平任政委。在庆祝红七军和右江工农民主政府成立大会上，发表重要讲话。