1898年3月5日生,字翔宇。小名,大鸾。曾用名飞飞、伍豪、少山、冠生等。原籍浙江绍兴,生于江苏淮安。1913年进天津南开中学学习。1917年留学日本。1919年回国。在天津参加五四运动,组织觉悟社,从事反帝、反封建的革命活动。1920年至1924年先后去法国和德国勤工俭学,在旅欧的中国学生和工人中宣传马克思主义,发起组织旅欧中国少年共产党(后改称旅欧中国社会主义青年团)。1921年转入中国共产党(由张申府等人介绍),任中国社会主义青年团旅欧总支部书记,并参加中共旅欧总支部的领导工作,对早期的建党、建团工作起了重大的作用。1924年8月从巴黎回国,曾任黄埔军校政治部主任,国民革命军第一军政治部主任,中共两广区委委员长、常委兼军事部部长,主持建立党直接领导的革命武装叶挺独立团。
1925年2月、10月,领导进行了第一、二次东征,为巩固和发展广东革命根据地和进行北伐作出了重大贡献。1926年曾在广州农民运动讲习所讲授军事课程,同年冬到上海,任中共中央军委书记兼中共江浙区委军委书记。1927年3月领导上海工人第三次武装起义获得胜利;8月领导了南昌起义,向国民党反动派打响了第一枪,为创建人民军队作出了重要贡献,在起义中任中共前敌委员会书记。同月在中共“八七”会议上,当选为中央政治局候补委员。1928年出席党的六大,在会上作了关于军事问题和组织问题的报告。后在上海坚持地下工作,任中共中央组织部长、中央军委书记,曾发表《坚决肃清党内一切非无产阶级的意识》和《中共中央给红军第四军前委的指示信》。1931年12月进入中央革命根据地后,任中共苏区中央局书记,中国工农红军总政委兼第一方面军政委,中央革命军事委员会副主席。1933年春和朱德一起领导和指挥了第四次反“围剿”战争,取得了重大的胜利。1935年1月在遵义会议上,坚决支持毛泽东的正确路线,为确立毛泽东在全党的领导地位,起了十分重要的作用。在遵义会议后,仍任中央革命军事委员会副主席,并任中央三人军事指挥小组成员。