据徐向前元帅回忆，1927年广州起义的时候，他还是个“一般党员干部，不了解全局情况，也不知道起义的主要领导人是谁。”

当时徐向前的任务是在广州赤卫队第六联队组织、训练骨干。

广州起义失败后，部队撤离广州，只剩下了1400多人，经大家讨论，这支部队的番号定为红4师，该师下辖3个团，徐向前为红10团党代表。当时红4师的师长是叶镛烈士，党代表是袁国平（后来的新四军政治部主任）。

据《徐向前传》记载，徐向前在担任10团党代表期间，每一次战斗，他不是亲自率领10团迎敌，就是协助师长指挥，成了叶镛的得力助手。

叶镛是黄埔3期的学生，也是徐向前的学弟，当时他只有20岁，一下子指挥3个团，对他来说有些力不从心，幸得徐向前这位有实战经验，当过参谋和团副的人协助。

红4师的同志3次派人，去和朱德率领的红1师联系，但都没有成功，最后他们决定去海陆丰，和彭湃同志率领的红2师会合。

红4师和红2师会合后，在海陆丰发展革命根据地，徐向前在这时候也因为他出色的表现，从红10团党代表调任红4师参谋长。

东江根据地的茁壮成长很快引来了国民党队伍的残酷围剿，形势一天天的严峻下去。1928年6月，在艰苦的转战中，红4师师长叶镛因疟疾离队，隐藏在一个地方休养，结果被敌人搜出杀害。此后，组织决定由徐向前出任红4师师长。

这也是徐向前第一次出任师级干部，当时他只有27岁。

由于敌人的重重围剿，东江游击战争最终宣告结束。1929年1月，徐向前等人接到上级通知，要他们统统转移出去。3月，徐向前来到了上海，不久后，组织分配他到大别山区（鄂豫皖根据地）工作。当时谁也想不到，这次任命会为共和国缔造出一位优秀的开国元帅。

徐向前来到鄂豫皖根据地是在1929年6月，随后他被安排进入鄂东北，到红31师担任副师长。

红31师是黄麻起义中建立起来的部队，也是后来红四方面军最骨干的力量。但是，当时的红31师虽然号称师，但实际只有300多人，不足一个营。红31师下辖4个大队，队长分别为王树声、廖荣坤、倪志亮和林柱中。

徐向前到的时候，师长吴光浩已经牺牲。这位黄麻起义的重要领导人在当地很有威信，为了避免影响部队和群众的情绪，组织决定暂时不对外公开这个情况。所以，徐向前到红31师，名义上是副师长，实际上是师长，负责全师的军事指挥工作。

徐向前在此前就担任过红4师师长，有过高级军事指挥官的经验，出任这支“兵力不足一个营”的部队的师长自然绰绰有余，但实际情况却要复杂一些。

据徐向前回忆：初来乍到的我，人生地不熟。我说话人家不懂，人家说话我也不太懂，得靠“翻译”。外来干部，要取得当地干部和群众的信任，有个过程。

能否获得大家的信任，能力无疑是非常重要的。徐向前毕业于黄埔，有过海陆丰游击战的丰富战斗经验，所以他“带着大家打游击，不断取得胜利，没吃过大亏。”很快，徐向前就用自己的高超的军事素养折服了众人。

除了“能力强”，更重要的是“人品好”。当时徐向前虽然是红31师的指挥官，但并不是鄂东北特委的委员，所以特委开会的时候，徐向前往往都无权参加，只有讨论一些军事问题的时候，才会通知他去。特委平时有什么决定，也是通过师参谋长曹学楷（特委常委）通知他。

面对这种“被架空”的情况，很多人难免心中不平，但徐向前却泰然自若。“他们分配我做什么，我就做什么，叫带兵打仗就打仗；司令部的业务工作没人管，叫我管也行。工作中出了问题，主动承担责任，不埋怨别人。搞了一段时间后，人家看你人还行，能带部队打仗，能和群众打成一片，没有什么官架子、特殊化，慢慢地就信任你了。威信就是这样建立起来的，而不是吹起来的。”

1930年，中央决定将鄂豫边、豫东南、皖西三块革命根据地合并起来，组成鄂豫皖根据地。于此同时，这三块根据地的部队，红31师、红31师、红33师也完成了合编，组成了红1军。

红1军的军长为

许继慎

，徐向前是副军长兼红1师（即原红31师）师长。

在立三路线的影响下，红1军奉命配合“以武汉为中心的全国总暴动”，出兵切断平汉线，并准备联合红2军和红6军进攻武汉，这给革命的发展带来了很大的负面影响。军长许继慎因不满这种政策，遭到了很多错误的批评。

但在此过程中，徐向前率领的红1师也抓住机会获得了很大的发展，部队扩编到了3000多人，拥有2个步兵团和1个机炮混成团。

在之后的较量的中，由于国民党夏斗寅部的不断景观，红1军决定南下与蔡申熙领导的红15军会合。两军会合后，合编为红4军，

中央派来的

旷继勋

担任军长，徐向前调任军参谋长，后又担任红4军13师师长。

张国焘来到红4军后，红4军的领导班子进行了一次改组，军长旷继勋不承认前段时间的工作是“立三路线”，受到中央批评，调任13师担任师长，徐向前则调任红4军军长。这时徐向前第一次出任正军级职务。

1931年11月7日，红四方面军在黄安七里坪宣告成立。这时的四方面军下辖红4军和红25军，共3万多人。红4军由方面军总部直接指挥，军长徐向前升任方面军总指挥，麾下三位师长分别是：倪志亮、王树声、陈赓。

这一年，徐向前只有30岁，就成了红军一个方面军的总指挥。在此后，他指挥红四方面军多次取得大捷，创造了许多经典战例，尤其是反六路围攻，他以8万红军击败20万敌军，歼敌10万，创造了红军战史上歼敌数量最多的一个战例。