国民革命军第6军的成立，源于1926年1月北伐前夕，军长程潜的领导下，这支部队开始了他们的历史篇章。程潜是第一批追随孙中山的老同盟会成员之一，辛亥革命时曾担任湖南省军事厅长，之后在二次革命和护国战争中屡建战功。孙中山在广州建立大本营后，程潜带着自己的部队从湖南前来投奔，逐步担任了陆军次长、军政部长等重要职务。特别是在军政部长的任上，程潜开始大刀阔斧地整合广东警卫军等多支武装力量，并且从军政部讲武学校抽调大批军官补充自己的队伍，最终将第6军建设成了一个不可小觑的嫡系部队。

1926年7月1日，北伐战争拉开帷幕，第6军奉命进军江西，参与与直系军阀孙传芳的决战。程潜带领第6军，与谭延闿的第2军和朱培德的第3军一道，合力对抗孙传芳所统领的五省联军。第6军主力推进至修水，遇上了孙传芳精锐第4师，经过几小时激烈交战，第6军成功将其击溃。随即，第6军追击至南昌城下，城内的守军早已失去斗志，而城市里的学生和工人纷纷打开城门迎接，南昌就这样轻易落入了第6军的手中。 然而，南昌的失守令孙传芳暴跳如雷。9月21日，他调集两师两混成旅发起反攻，第6军则调出第17师和何应钦的第1军一同出城进行阻击，仅剩第19师坚守南昌。蒋介石的第1军，曾是黄埔的骄子，如今由于剿灭了共产党，已不复往日的威风，几乎没经过一场抵抗，南昌守军就陷入了敌人包围。第19师伤亡惨重，在敌众我寡的情况下，被迫撤离。 尽管第6军屡战屡败，但程潜并未因此气馁，依然坚持进行反击。9月22日和30日，程潜指挥第6军连续两次对南昌发起反攻，但均告失败。直至11月，桂系的第7军从湖北赶来支援，在赣南、赣西等地歼灭孙传芳部的主力，南昌守军士气崩溃，终于在11月7日被攻克。接下来，1927年1月，程潜再度奉命，指挥第2军、第6军和独立2师等部进攻南京。当时，孙传芳的部队已无心恋战，纷纷北渡长江逃窜，最终在2月24日，第6军光复了南京。

尽管第6军在北伐期间曾遭遇挫折，但凭借收复南京的赫赫战功，程潜依然为这支部队赢得了极高的声誉。然而，程潜的领导风格过于墨守成规，使得第6军未能在战争中壮大力量。与此同时，蒋介石的嫡系第1军和谭延闿的第2军，则借此机会通过扩编和收降，迅速壮大了自身的实力，第1军更是扩编了7个师，实力迅速超越各派系。

随着南京和武汉的政治斗争愈演愈烈，蒋介石宣布与武汉政府决裂，成立南京国民政府。此时，第6军驻扎在上海附近，程潜虽不敢公开支持武汉政府，但也无法忍受昔日战友为了权力兵戎相见。他决定亲自前往武汉，企图调解双方矛盾。然而，程潜的武汉之行不仅未能达成任何成果，反而引起了蒋介石等人的疑虑。蒋介石担心程潜会有其他动向，于是决定先下手为强，指挥第1军、第7军和投靠的黔军部队，将第6军包围并缴械。

程潜得知这一消息时，正在返程途中，吃惊之余，立即赶往江西九江，并将驻防在此的第6军直属部队带到汉口，成功保留了部分精英力量。在武汉方面的支持下，程潜重新整编第6军，将学生总队编为第52团、补充团为第53团、工兵营为第54团，整合为第18师。此外，他还亲自回到湖南招募新兵，重建了第17师和第19师，同时从原第4路军独立团中扩编了教导师。经过这一系列调整，第6军重新恢复了4个师的编制，然而其战力已大大减弱。