1947年8月中旬，东北民主联军总部决定以独立第一师、独立第二师和东满独立师为基础组建第十纵队，并打算让梁兴初出任纵队副司令。当时梁兴初的职务是6纵副司令兼16师师长，按理来说这属于平级调动。不料当上级征求他的意见时，却遭到了梁兴初的拒绝，他还扔下了这么一句话：“宁为鸡头，不为牛尾，我要去十纵就当司令员，不然还是在六纵当师长。”

罗帅对梁兴初知根知底，抗日战争全面爆发后不久，梁兴初就跟随罗帅进军山东和日伪军作战，从营长到团长，从团长到旅长，从旅长到师长，一步步成长为罗帅手下数一数二的虎将。日本投降后，他又跟随罗帅来到了东北，先后担任过一纵副司令兼一师师长和六纵副司令兼16师师长等职。在这期间，梁兴初从来没有出现过抗命的事情，不料这次竟然公开要“官”当，罗帅很是意外。

但他也知道自己的爱将不是“官迷”，他这样做肯定有自己的理由，最终上级同意了梁兴初的要求，任命他为十纵司令员。同时罗帅也对梁兴初提出了一个要求，那就是把十纵打造成一支能打硬仗和恶仗的一流部队。1948年10月下旬，十纵迎来了成立以来最严重的一次考验。10月21这天，梁兴初收到了上级发来的命令：长春敌十万起义投降，锦州敌十万被歼，沈阳陷于孤立，有企图向锦州突围，与锦西北上之敌会合，妄想夺回关内。令你即返黑山、大虎山，选择阵地，构筑工事，顽强死守，阻击敌人，掩护主力到达后，聚歼前进之敌。

此时10纵成立才一年多，全部兵力仅有3万余人，而且缺少重武器，他们的对手是拥有飞机、大炮和坦克的近20万精锐国军。敌我力量相差十分悬殊，这注定是一场十分艰难的阻击战。梁兴初在战前动员会上神情庄重地说：“要想打好这一仗，不咬咬牙是不行的，在这样光荣的任务面前，我们对自己只能有一个要求，那就是只能打好，不能打坏！哪怕10纵拼光了也是值得的，其他部队照样解放全中国！”

随后十纵在梁兴初的带领下以急行军的速度赶到黑山和大虎山一线，开始构筑防御工事。24日拂晓，廖耀湘集中第71军、新一军和新六军以共六个师的兵力，在两百余门火炮和两百架次飞机的支持下，向黑山、大虎山发动全线攻击，惨烈的黑山阻击战由此打响。为了堵住廖耀湘，十纵上下都发了狠，咬着牙和敌人拼命，硬是把廖耀湘拖在黑山动弹不得，为全歼廖耀湘兵团做出了极为重要的贡献。黑山阻击战也由此成为解放战争中我军著名的三大阻击战之一，凭借此战，十纵一跃成为四野王牌！

新中国成立后不久，抗美援朝战争爆发，梁兴初带领38军入朝作战。由于首战打得不是很理想，受到了彭总的批评。因此第二次战役开始后，梁兴初憋足了劲，要打一个翻身仗。战斗打响后，38军先是德川一战歼灭韩7师5000余人，继而又在嘎日岭全歼土耳其一个加强营，随后梁兴初又指挥部队抢占了三所里和龙源里，堵住了敌人南逃的退路，为第二次战役的胜利作出了极为重要的贡献。战后，彭总亲笔写了嘉奖令，并称38军为“万岁军”。梁兴初一战扬名，成为敌军胆寒的名将，1955年他被授予中将军衔。