在国民党军的众多将领中，廖耀湘的资历无疑是最为浅薄的。他是黄埔军校六期的毕业生，这一点在当时的军队中，显得尤为特殊。事实上，当廖耀湘被提拔为第九兵团司令时，他的许多学长们仍然还在担任军长甚至是师长的职务。更为显著的是，按照当时国民党军队的职务军衔和铨叙军衔的划分标准来看，廖耀湘的铨叙军衔仅为骑兵上校。直到1948年，他才被提拔为少将。这个职位的差距，显然体现出他在军队体系中的晋升相对较慢。 廖耀湘的家境虽然谈不上富贵显赫，但也可以算得上是一个书香门第。按照传统的教育观念来看，廖耀湘后来的选择，不免让人觉得他是投笔从戎。他于1925年从中学毕业后，南下广州报考黄埔军校。由于家里拼尽全力也未能凑足学费，廖耀湘错失了黄埔五期的招生，只能滞留长沙，在赵恒锡的部队中当兵，直到1926年才得以考入黄埔军校第六期的骑兵科。

许多人认为黄埔军校的毕业生越早越好，这样不仅能积累资历，还能更快地获得提拔。实际上，早期的黄埔军校教育非常粗糙，办学经验不足，加上时局动荡，很多黄埔毕业生基本上是在打仗的同时接受教育。比如黄埔一期的学员，实际的学习时间不到七个月，入学时间是1924年3月24日，而毕业则是在同年11月，其中还包括了十月的商团叛乱战斗，连毕业典礼都是推迟到第二年6月才举行。 与此相比，黄埔后期的教育逐渐规范，学习时间也得到了延长。廖耀湘所处的黄埔六期，在1926年考入，直到1929年才正式毕业。由于蒋介石发动了四一二政变，很多黄埔六期的学员未能顺利毕业。事实上，廖耀湘所经历的教育时间也格外漫长，且在1929年毕业后，他又参加了公派留学的考试，这一过程足见他受教育的历程之长。

值得一提的是，黄埔军校曾一度停办，直到1933年才重新开办。第八期学员的学制普遍增加至三年，而由于抗战爆发，后来又缩短了。这一切说明，廖耀湘并非仅仅依靠黄埔军校的名号，而是通过艰苦的努力，获得了系统的军事教育，且这段经历为他日后的军事生涯增色不少。 更加值得称道的是，廖耀湘于1930年5月参加了留学考试，名列前三，成功获得了前往法国圣西尔军校学习的机会。传言称，由于他身材较矮，一度未能通过考核，但廖耀湘并没有因此气馁，而是直接闯入蒋介石的办公室，最终得到了蒋的青睐，特许他前往法国留学。可以看出，当时留学法国并非一项突出的优势，廖耀湘尽管成绩优秀，但与他一起的还有许多同样优秀的学员，最终脱颖而出的只有廖耀湘一人。这也证明了，除了个人才能外，恰当的时机和把握机会的能力，往往是成功的关键。

抗战时期，廖耀湘的职务并不显赫，他最初仅仅担任中校营长，后来又调任为中校参谋，低调而务实。直到他参与了南京保卫战，遭遇日军进城时的困境，并几经波折才脱险。战后，廖耀湘在总结南京战役的经验后，撰写了《南京战役之经验及国军今后建军应有之改进》，这份报告得到了蒋介石的高度重视，并因此破格提拔廖耀湘为第200师的少将参谋长。 第200师的前身是国民革命军事委员会下属的战车营。随着抗战全面爆发，该部与交通兵第2团的装甲汽车队合并，成立了装甲兵团，并在1938年扩编为200师，拥有五个团和2万多人，成为中国第一支机械化部队。可以说，廖耀湘的这份报告，在那个时刻正好迎合了国家的需求，也是他破格晋升的一个重要契机。

由于第200师的重视，廖耀湘在军中的晋升速度迅猛。第5军第200师在独立组建新编第11军后，廖耀湘被任命为新编第22师副师长，师长为邱清泉。经过桂南会战后，廖耀湘晋升为第22师师长。由于晋升过快，廖耀湘的铨叙军衔始终未能跟上他的职务变化，这也导致他在担任第九兵团司令时，职务虽为中将，然而铨叙军衔却仅为骑兵上校，这种差距，显然成为了他职业生涯中的一大难题。