杨国夫是四野的一名将领,他的军事生涯起步于抗战时期,特别是在东北战场的经历让他逐渐崭露头角。抗战期间,杨国夫参与组建了6纵,担任副职,比如6纵副司令、43军副军长、江西军区副司令等职务。6纵自成立以来,经过多次改编和更换领导人,从陈光到洪学智,再到黄永胜、李作鹏等,他虽然是最早担任6纵副司令的,却并非首选的继任人选。
抗战期间,杨国夫被调任山东开展工作。那时他所属的部队并非主力部队,而是由一些民主人士组织起来的队伍,后来才并入我军领导。他先后担任了支队副司令、司令、副旅长、旅长,最后成为清河军区和渤海军区的司令员。渤海军区是山东军区下设的二级军区,后来,许世友和王建安等人都成为了上将。抗战胜利后,渤海军区的部队组织了独立旅,并率先北上。军区的主力则改编为7师。独立旅向冀热辽挺进,并参与了承德保卫战。在这场战斗中,上级计划将这支部队编入冀热辽军区。作为旅长的王兆相同意了这一安排,但他希望能与杨国夫商量后再做决定。 杨国夫虽然晚了一些才率领7师出发,但他没有浪费任何时间,迅速抵达山海关。当得知独立旅的任务发生变化,他立即决定不留在冀东,而要继续北上进入东北。他坚信独立旅的任务是去东北,而非冀东。为了确保渤海军区的部队都能进入东北,杨国夫向东北局提出申请,最终得到了同意。承德保卫战结束后,独立旅顺利进入东北,而杨国夫则确保渤海军区的其他部队也顺利完成了进军任务。此外,他还指挥7师驻守山海关,保卫战结束后,他将冀东的19旅划归7师,并一同北上。1946年8月,7师与独立旅和19旅一起改编为6纵的17师、18师,而16师则由新四军3师7旅改编而来。按照当时的情况,杨国夫应当担任6纵司令,毕竟他在部队中的威望和资历都非常高。然而,最终调任6纵司令的是陈光,而杨国夫仅担任了副司令一职。此后,杨国夫虽然多次被提拔为司令员,却始终没有得到机会。当3纵的原司令程世才调离后,副司令员曾克林接任为司令;4纵的原司令吴克华离开后,第一副司令胡奇才也被提拔为司令。然而,当6纵的情况发生变化时,却始终没有给杨国夫这个资深副司令机会。 在部队南下中南后,16师的师长被提拔为军长,而杨国夫则被调离,去地方军区担任副司令。相比之下,他担任副司令的时间比其他一些晚于他的将领还要长,尽管这些将领如曹里怀、吴瑞林、方强、贺晋年等,在他之后却都成为了军长。杨国夫是四野军一级干部中最早被安排到地方工作的,也是唯一一个在解放前转入地方的高级干部。其他四野干部转入地方军区时,通常都是独立师的师长,编入主力部队南下后,解放中南再次改任军分区司令,而杨国夫则被留在了地方。这也是为了支持地方的武装建设,43军保留了一个师,也因此将杨国夫留下。